1、壓縮感知理論及應用壓縮感知理論及應用Compressed Sensing (CS)：Theory and Applications 湖南工程學院1 1 背景介紹背景介紹 1.1 傳統采樣理論介紹及問題提出 1.2 壓縮感知理論的基本思想2 2 壓縮感知理論分析壓縮感知理論分析 2.1 壓縮感知的前提 2.2 壓縮感知流程介紹 第一步：信號的稀疏表示 第二步：觀測矩陣的設計 第三步：信號重構3 3 壓縮感知應用壓縮感知應用 3.1 波形信號仿真分析 3.2 CS圖像融合 3.3 單像素CS相機 3.4 CS雷達1 1 背景介紹背景介紹 1.1 傳統采樣理論介紹及問題提出 1.2 壓縮感知理論的基

2、本思想1.1 傳統采樣理論介紹及問題提出v傳統的基于Nyquist采樣定理指導下的信息的處理主要表現在兩個方面：v1、采樣速率需達到信號帶寬的兩倍以上才能精確重構信號。這樣的采樣硬件成本昂貴，獲取效率低下，對寬帶信號處理的困難日益加劇。v2、在實際應用中，為了降低成本，人們常將采樣的數據經壓縮后以較少的比特數表示信號，而很多非重要的數據被拋棄，這種高速采樣再壓縮的方式浪費了大量的采樣資源，另外一旦壓縮數據中的某個或某幾個丟失，可能將造成信號恢復的錯誤。1 背景介紹背景介紹v而現實生活中，隨著信息技術的高速發展，信息量的需求增加，攜帶信息的信號所占帶寬也越來越大v這就大大考驗了數字化社會對信息處

3、理的能力，包括：數據存儲、傳輸和處理速度，基于Nyquist采樣的理論遭到嚴峻的考驗。1 背景介紹背景介紹v能否以遠低于Nyquist采樣定理要求的采樣速率獲取信號，而保證信息不損失，并且可以完全恢復信號？v即能否將對信號的采樣轉化為對信息的采樣？ 一個亟待解決的問題：一個亟待解決的問題：1 背景介紹背景介紹1.2 壓縮感知理論的基本思想v一種新的理論Compressed Sensing(CS,壓縮感知，亦稱壓縮傳感)。v由Candes、Romberg、Tao和Donoho等人在2004年提出，2006年才發表文獻 v基本思想：v1、信號是可壓縮的或在某個變換域是稀疏的;v2、就可以用一個與變

4、換基不相關的觀測矩陣將變換所得高維信號投影到一個低維空間上;v3、然后通過求解一個優化問題就可以從這些少量的投影中以高概率重構出原信號。1 背景介紹背景介紹2 2 壓縮感知理論分析壓縮感知理論分析 2.1 壓縮感知的前提 2.2 壓縮感知流程介紹 2.3 第一步：信號的稀疏表示 2.4 第二步：觀測矩陣的設計 2.5 第三步：信號重構2.1 壓縮感知的前提 v稀疏性的定義：v一個實值有限長的N維離散信號 ，由信號理論可知，它可以用一個標準正交基 的線性組合來表示，假定這些基是規范正交的，其中 表示矩陣 的轉置，那么有 其中 ，若 在基 上僅有 個非零系數 時，稱 為信號 的稀疏基， 是 稀疏(

5、K-Sparsity)的。1NxR12,TkK T1Nkkkx ,kkxxKKNkxxK2 壓縮感知理論分析壓縮感知理論分析vE.Candes等人證明了：信號的稀疏性是CS的必備條件。v信號是可壓縮的或在某個變換域是稀疏的，這個條件的限制等同于信號帶寬對于Nyquist采樣定理的約束。2 壓縮感知理論分析壓縮感知理論分析2.2 壓縮感知流程介紹v長度為N的信號 在正交基 上的變換系數是稀疏的；v用一個與基 不相關的觀測基 對系數向量進行線性變換，并得到觀測向量 v利用優化求解的方法從觀測集合中精確或高概率地重構原始信號 。x:()MNMN:1Y M x2 壓縮感知理論分析壓縮感知理論分析v如同

6、信號帶寬對于Nyquist，信號的稀疏性是CS的必備條件；v如同Nyquist采樣規則對于Nyquist-Shannon采樣定理，CS的關鍵是非相關測量（該測量稱為測量矩陣），他們都是信號得以精確恢復的條件；v如同Fourier變換對于Nyquist，非線性優化是CS重建信號的手段。 2 壓縮感知理論分析壓縮感知理論分析第一步：信號的稀疏表示v如圖是一個稀疏度為3的稀疏變換， ,在時域 基本都是非零值，v但將其變換到 域 時，非零值就只有3 個了，數目遠小于 原來的非零數目，實 現了信號的稀疏表 示。 xx2 壓縮感知理論分析壓縮感知理論分析如何找到信號的最佳稀疏域呢？v這是壓縮感知理論的基礎

7、和前提，也是信號精確重構的保證。對稀疏表示研究的熱點主要有兩個方面：v1、基函數字典下的稀疏表示：v尋找一個正交基使得信號表示的稀疏系數盡可能的少。比較常用的稀疏基有：高斯矩陣、小波基、正（余）弦基、Curvelet基等。Candes和Tao經研究發現光滑信號的Fourier 系數、小波系數、有界變差函數的全變差范數、振蕩信號的Gabor 系數及具有不連續邊緣的圖像信號的Curvelet 系數等都具有足夠的稀疏性,可以通過壓縮感知理論恢復信號。v2、超完備庫下的稀疏表示：v用超完備的冗余函數庫來取代基函數，稱之為冗余字典，字典中的元素被稱之為原子，目的是從冗余字典中找到具有最佳線性組合的K項原

8、子來逼近表示一個信號，稱作信號的稀疏逼近或高度非線性逼近。2 壓縮感知理論分析壓縮感知理論分析v超完備庫下的稀疏表示涉及到兩個問題：v一是如何構造這樣一個適合某一類信號的冗余字典；v二是在已知冗余字典的前提下如何設計快速有效的分解方法來稀疏地表示某一個信號。v右圖為一些不 同的字典 2 壓縮感知理論分析壓縮感知理論分析第二步：觀測矩陣的設計 觀測器的目的是采樣得到 個觀測值，并保證從中能夠重構出原來長度為 的信號 或者稀疏基下的系數向量 。 觀測過程就是利用 觀測矩陣的 個行向量對稀疏系數向量進行投影，得到 個觀測值，即MNxMNMMTYxx2 壓縮感知理論分析壓縮感知理論分析TYxx2 壓縮

9、感知理論分析壓縮感知理論分析觀測矩陣要滿足什么樣的條件呢？v從上式中求出 是一個線性規劃問題，但由于方程的個數少于未知數的個數 ，這是一個病態問題v但如果 具有稀疏性，則有可能求出確定解。Candes、Tao等人提出必須保證觀測矩陣不會把兩個不同的 項稀疏信號映射到同一個采樣幾何中，這就要求從觀測矩陣中抽取的每個列向量構成的矩陣是非奇異的，v這跟有限等距特性(RIP)條件的要求是一致的。vR.Baraniuk將上述條件簡化為如果保證觀測矩陣和稀疏基不相干，則在很大概率上滿足RIP性質。不相干是指 不能用 稀疏表示，不相干性越強，互相表示時所需的系數越多。MNxK j i2 壓縮感知理論分析壓縮

10、感知理論分析第三步：信號重構v首先介紹下范數的概念。向量的p-范數為： 當p=0時得到0-范數，它表示上式中非零項的個數。v由于觀測數量 ，不能直接求解，在信號 可壓縮的前提下，求解病態方程組的問題轉化為最小0-范數問題：11Nppipiss0min s.t. TTxYxMNx2 壓縮感知理論分析壓縮感知理論分析v對于0-范數問題的求解是個NP問題，需要列出所有非零項位置的種組合的線性組合才能得到最優解，在多項式時間內難以求解，而且也無法驗證其可靠性。vChen，Donoho和Saunders指出求解一個優化問題會產生同等的解。于是問題轉化為：v或者：v求解該最優化問題，得到稀疏域的系數，然后

11、反變換即可以得到時域信號。1 min. . TTxstYx21minTTYxx2 壓縮感知理論分析壓縮感知理論分析目前出現的重構算法主要可歸為三大類：v1)第一類貪婪算法：這類算法是通過每次迭代時選擇一個局部最優解來逐步逼近原始信號，典型的貪婪算法-MP算法，貪婪算法是針對組合優化提出, 目前已發展了多種變形，例如，OMP, OOMP, CosMP等。該類重建算法速度快, 然而需要的測量數據多且精度低。 v2)第二類凸優化算法：這類方法是將非凸問題轉化為凸問題求解找到信號的逼近，如BP算法，梯度投影方法等。該類算法速度慢，然而需要的測量數據少且精度高。 v3)第三類組合算法：這類方法要求信號的

12、采樣支持通過分組測試快速重建，如代表性方法Sparse Bayesian。該類方法位于前兩者之間。 2 壓縮感知理論分析壓縮感知理論分析3 3 壓縮感知應用壓縮感知應用 3.1 波形信號仿真分析 3.2 CS圖像融合 3.3 單像素CS相機 3.4 CS雷達3.1 波形信號仿真分析v基于CS理論的一個簡單的信號分析。v信號長度為N=256，稀疏度為K=7，測量數M=32。信號為三個頻率疊加的正弦信號，傅里葉正交變換矩陣作為系數矩陣，高斯矩陣來測量，并用OMP算法重構原信號。 050100150200250300-1.5-1-0.500.511.52original signal05010015

13、0200250300-1.5-1-0.500.511.52recovery3 壓縮感知應用壓縮感知應用原信號與恢復結果對照圖：050100150200250300-1.5-1-0.500.511.52 RecoveryOriginal3 壓縮感知應用壓縮感知應用3.2 CS圖像融合v圖像融合是對來自單一傳感器不同時間、不同環境下獲取的圖像或由多個傳感器同一時間獲取的信息進行多級別、多層次的處理與綜合，從而獲得更豐富、更精確、更可靠的有用信息。v圖像融合的目的是提高圖像顯示的質量、實現圖像的特征提取、圖像去噪、目標識別和跟蹤以及圖像的三維重構。v大部分圖像的稀疏特性為CS的應用帶來可能，同時CS

14、的引入為圖像的融合在計算速度、融合策略上都帶來了新的飛躍。 3 壓縮感知應用壓縮感知應用圖像融合結果圖：3 壓縮感知應用壓縮感知應用3.3 單像素CS相機v運用壓縮感知原理，RICE大學成功研制了單像素CS相機。v傳統百萬像素的相機需要百萬個探測傳感器，而壓縮傳感數碼相機只使用一個探測器來采光，然后跟捕獲后的計算相結合來重構圖像。這種樣機的鏡頭由兩部分組成：一個光電二極管和一個微鏡陣列。v該相機直接獲取的是M次隨機線性測量值而不是獲取原始信號的N 個像素值，為低像素相機拍攝高質量圖像提供了可能。3 壓縮感知應用壓縮感知應用“數字微鏡陣列”完成圖像在偽隨機二值模型上的線性投影的光學計算，其反射光

15、由透鏡聚焦到單個光敏二極管上，光敏二極管兩端的電壓值即為一個測量值y，將此投影操作重復M次，即得到測量向量Y，然后用最小全變分算法構建的數字信號處理器重構原始圖像x。數字微鏡器件由數字電壓信號控制微鏡片的機械運動以實現對入射光線的調整，相當于隨機觀測矩陣。3 壓縮感知應用壓縮感知應用字母R的實驗結果：3 壓縮感知應用壓縮感知應用3.4 CS雷達v在雷達目標探測中，目標相對于背景高度稀疏，與復雜的雷達系統、海量數據呈現極度的不平衡，這就為CS技術在雷達目標探測與識別的應用提供了必要的條件。v3.4.1 CS與傳統的高分辨雷達與傳統的高分辨雷達v3.4.2 CS與與MIMO雷達雷達v3.4.3 C

16、S與雷達成像與雷達成像3 壓縮感知應用壓縮感知應用3.4.1 CS與傳統的高分辨雷達與傳統的高分辨雷達vCS雷達的三個關鍵點 （1）發射信號必須是充分不相關的； （2）在CS方法中，不需要使用匹配濾波器；（3）目標場景可以恢復是在假設目標滿足稀疏性約束的條件下。 3 壓縮感知應用壓縮感知應用3.4.1 CS與傳統的高分辨雷達與傳統的高分辨雷達vCS技術很重要的思想是設計一個觀測矩陣 ，用來表示稀疏信號的字典集 ，并且 與 是不相關的。利用這個思想設計出CS雷達接收機如下圖所示。3 壓縮感知應用壓縮感知應用v假設空間有若干個稀疏目標，將目標所在的距離向與方位向分割成網格形式。CS雷達可以檢測的目

17、標數量 ， 為稀疏單元數目。如果 ，則可以采用CS理論，通過優化問題求解，精確分辨出空間的多個目標。2NK K2KN3 壓縮感知應用壓縮感知應用3.4.2 CS與與MIMO雷達雷達l2004年Fishler等人提出了多輸入多輸出(Multiple Input Multiple Output，MIMO)雷達的概念 MIMO雷達收發陣列配置圖3 壓縮感知應用壓縮感知應用3.4.2 CS與與MIMO雷達雷達l文獻Yao Yu, Athina P. Petropulu, H. Vincent Poor, MIMO Radar Using Compressive Sampling, IEEE Journ

18、al Of Selected Topics in Signal Processing, Vol. 4, NO. 1, FEB 2010基于小規模的無線網絡將CS理論應用于非相參MIMO雷達系統, 求得目標的角度和多普勒解。l文獻Chun-Yang Chen and P. P. Vaidyanathan, Compressed Sensing in MIMO Radar, Signals, Systems and Computers, 2008 42nd Asilomar Conference on，26-29 Oct. 2008結合MIMO雷達目標在距離-多普勒-角度域的稀疏特點,研究了CS在

19、相參MIMO雷達系統中的信號重構和波形優化問題。l文獻Yao Yu, Athina P. Petropulu and H. Vincent Poor, Compressed Sensing for MIMO Radar . ICASSP 2009.已經開展了CS用于MIMO雷達的參數估計。 3 壓縮感知應用壓縮感知應用v對于均勻線陣的MIMO雷達信號模型，利用CS方法估計目標波達方向(Direction of Arrival，DOA)，可以高概率的精確估計目標的DOA。 均勻線陣MIMO雷達估計結果1 均勻線陣MIMO雷達估計結果2-10-8-6-4-2024681000.511.522.53

20、3.54壓 縮 感 知 估 計 MIMO雷 達 的 波 達 角波 達 角散射系數 估 計 的 DOA實 際 的 DOA-10-8-6-4-202468100123456789壓 縮 感 知 估 計 MIMO雷 達 的 波 達 角波 達 角散射系數 估 計 的 DOA實 際 的 DOA3 壓縮感知應用壓縮感知應用分布式壓縮感知（分布式壓縮感知（Distributed Compressive Sensing, DCS）與）與MIMO雷達雷達v相參MIMO雷達系統通過多發多收形成大數量的虛擬陣列，在發射機、目標以及接收機之間構成對目標的分布式探測系統，這與分布式壓縮感知（DCS）的思想不謀而合。v如

21、果多個信號都在某個變換基下是稀疏的,并且這些信號彼此相關,那么每個信號都能夠通過測量矩陣進行聯合壓縮測量，利用優化方法對待測量進行聯合重構。3 壓縮感知應用壓縮感知應用分布式壓縮感知（分布式壓縮感知（DCS）與）與MIMO雷達雷達（1）基于MIMO雷達體系的DCS變換基構造1NffM M (1)1()reconstruct1MMyHfMyHfHsH L LL L 3 壓縮感知應用壓縮感知應用（2）聯合稀疏表示 構造壓縮測量矩陣 對接收信號 進行聯合稀疏表示，即是充分利用接收信號自身以及接收信號之間的相關性信息，對變換域系數進行聯合編碼，對接收信號進行降低冗余度的信息融合 。1,MyyL L分布

22、式壓縮感知（分布式壓縮感知（DCS）與）與MIMO雷達雷達3 壓縮感知應用壓縮感知應用（3） DCS-MIMO聯合重構算法 求解欠定方程的處理過程，實現DCS-MIMO雷達信號重構。 常采用的方法有貪婪算法、粒子群算法、模擬退火算法等優化算法。 分布式壓縮感知（分布式壓縮感知（DCS）與）與MIMO雷達雷達3 壓縮感知應用壓縮感知應用3.4.3 CS與雷達成像與雷達成像 基于CS的SAR成像需要解決的主要問題有: 目標場景的稀疏基設計， 非相關測量 最優化重構算法等。3 壓縮感知應用壓縮感知應用3.4.3 CS與雷達成像與雷達成像v實際場景信號的構成模式比點目標模型要復雜得多；v大場景雷達成像

23、，由于噪聲的緣故，在實際雷達系統中非相關測量的設計是一個有待解決的問題 ；v壓縮感知需要求解一個非線性最優化問題，即需要較高的信噪比，然而大場景雷達成像的數據量特別大，且信噪比很差。因此，如何利用CS實施大場景雷達成像是一件非常具有挑戰性的課題。3 壓縮感知應用壓縮感知應用穿墻雷達成像和探地雷達成像穿墻雷達成像和探地雷達成像 余慧敏等 壓縮感知理論在探地雷達三維成像中的應用 電子與信息學報，2010 Richard Baraniuk et al， Compressive Radar Imaging, Preprint, 2008A. Gurbuz, et al, Compressive sen

24、sing for GPR imaging, Preprint, 20083 壓縮感知應用壓縮感知應用3.4.3 CS與雷達成像與雷達成像穿墻雷達成像和探地雷達成像穿墻雷達成像和探地雷達成像 http:/to- 壓縮感知應用壓縮感知應用3.4.3 CS與雷達成像與雷達成像基于壓縮感知的含旋轉部件目標基于壓縮感知的含旋轉部件目標ISAR成像方法成像方法 橫向距離（米）距離（米）-50599510001005目標到雷達距離目標到雷達距離1km目標運動速度目標運動速度100m/s發射信號載頻發射信號載頻10GHz發射信號帶寬發射信號帶寬600MHz脈沖寬度脈沖寬度 10-e6 s脈沖重復頻率脈沖重復頻

25、率300Hz距離分辨率距離分辨率0.25m橫向距離分辨率橫向距離分辨率0.25m3 壓縮感知應用壓縮感知應用成像結果對比橫向距離（米）距離（米）-10-5051099510001005橫向距離（米）距離（米）-10-5051099510001005橫向距離（米）距離（米）-10-5051099510001005橫向距離（米）距離（米）-10-5051099510001005利用利用RDRD算法成像圖算法成像圖 基于基于HoughHough變換剔除微多普勒成像圖變換剔除微多普勒成像圖基于基于CSCS方法成像圖方法成像圖 （壓縮（壓縮60%60%） 基于基于CSCS方法成像圖方法成像圖 （壓縮（壓縮80%80%） 3 壓縮感知應用壓縮感知應用3.4.5 CS在雷達目標檢測與識別中的應用在雷達目標檢測與識別中的應用vCS在雷達目標識別中的應用，可涉及到兩大類：第1類是基于復回波信號的特征矢量的目標識別方法；第2類是基于各種成像算法所得到的復圖像的目標識別方法。v3.2.1 字典設計v3.2.2 測量算子設計及雷達目標識別3 壓縮感知應用壓縮感知應用3.2.1 字典設計字典設計v理論上，自然信號或圖像在適當的變