壓縮傳感介紹

1、 壓縮傳感原理 （compressive sening）創(chuàng)始人：n華裔數(shù)學(xué)家陶哲軒（Terence Tao） n斯坦福大學(xué)統(tǒng)計(jì)學(xué)家 ：David L. Donoho理論性的文獻(xiàn)(1)：n“Robust uncertainty principles:exact signal reconsttruction from highly incomplete frequency information” IEEE Trans. on infromation theory Vol.52 No.2 2006 489509 理論性的文獻(xiàn)(2)：n“compressed sinsing” IEEE Trans.

2、 on infromation theory Vol.52 No.4 2006 12891306 n矩陣分析n統(tǒng)計(jì)概率論n優(yōu)化與運(yùn)籌學(xué)n泛函分析與變分問題n時(shí)頻分析（傅里葉變換、小波變換、方向性小波變換、框架小波）n信號(hào)處理與圖像處理。研究、學(xué)習(xí)的基礎(chǔ)：基本思路：n傳統(tǒng)思路正交變換的應(yīng)用 變換的能量集中特性與壓縮：但能量的分布可變。變換后的總能量不變，變換后的能量：）。是正交變換（正交矩陣其中：或XXXAAXAXAXYYAXYXTTTTA)()()(EAYTY愈小。布愈集中，壓縮的誤差所以，變換后的能量分則壓縮后的均方誤差為，取，小順序排列：的分量按其絕對(duì)值的大個(gè)時(shí)，我們將個(gè)分量壓縮為當(dāng)我們需

3、要將 NkiikyyyyYyyyyYYkN)(N10, 022110N210最優(yōu)的正交變換：nK-L變換 它以輸入圖像的特征向量為變換核矩陣。因而變換核矩陣隨輸入圖像而變化。應(yīng)用于信號(hào)重建：n變換后只保留K個(gè)分量。能否重建（恢復(fù)）信號(hào)？重建條件：1. N-K個(gè)分量為零。2. N-K個(gè)分量對(duì)信號(hào)的貢獻(xiàn)微乎其微。K “稀疏”信號(hào)或可壓縮信號(hào)問題：什么信號(hào)是K稀疏的？信號(hào)在什么變換下是K稀疏的？ 信號(hào)（圖像）本身可能是稀疏的； 信號(hào)（圖像）在變換域是稀疏的； 信號(hào)（圖像）中含有內(nèi)部的相關(guān)性、規(guī)律性，當(dāng)用某個(gè)數(shù)學(xué)模型描述時(shí)，只需要少量的模型系數(shù)； 信號(hào)（圖像）的規(guī)則性：良好的圖像具有卡通模式，噪聲和干

4、擾較少,意味著具有變差稀疏性或總變差有限性 。各種形態(tài)的稀疏性：新的思路：n壓縮傳感A Big Idea1,NM NxRMyxR 對(duì)于信號(hào)有個(gè)線性測(cè)量怎樣由y重構(gòu)信號(hào)x？壓縮采樣： 采樣是一個(gè)線性泛函作用于信號(hào)，不限于獲采樣是一個(gè)線性泛函作用于信號(hào)，不限于獲得信號(hào)的一個(gè)瞬時(shí)電平。得信號(hào)的一個(gè)瞬時(shí)電平。 例： 信號(hào) x Rn，將信號(hào)與隨意選取的 m 個(gè)向量 vi 作內(nèi)積（濾波），m n, 輸出結(jié)果 y。 這種采樣可以用一個(gè) mn 代數(shù)方程描述： x = y 。 在一般情況下，重建 x 有無窮多解。 問題的數(shù)學(xué)表述：（P0）H0min,xxy且滿足或H02minyxx 范數(shù)的選擇：n最優(yōu)化問題的分

5、析0min,x （空間的最小等值面）H xy ，（空間超平面）求兩個(gè)空間面的交點(diǎn)求兩個(gè)空間面的交點(diǎn)范數(shù)的選擇： 在什么范數(shù)下，兩個(gè)空間面相交在什么范數(shù)下，兩個(gè)空間面相交的可能性最大？的可能性最大？問題的數(shù)學(xué)表述改為：（P1）H12min yxx或H1min,xxy且滿足問題等價(jià)的條件問題等價(jià)的條件 : : 受限等量性質(zhì)Restricted Isometry Property of Oder k (RIP) E.J. Candes, et al., 2006 定義： 假定k m 是一個(gè)整數(shù)，一個(gè)矩陣 Rmn的等量常數(shù)k 是指對(duì)所有k 稀疏向量 x Rn，滿足以下不等式的最小值： (1 - k )

6、| x |l22 |x |l22 (1 - k )| x |l22 大致地說，大致地說，RIP 是要求是要求 的每個(gè)的每個(gè) mk 子矩陣子矩陣 Sk 是近似單位正交的，即任何一個(gè)是近似單位正交的，即任何一個(gè) SkTSk 的各個(gè)特征值不要偏離數(shù)值的各個(gè)特征值不要偏離數(shù)值 1 太遠(yuǎn)。太遠(yuǎn)。 充分條件充分條件（Candes，2006）：如果 2k 2 1, 那么對(duì)于所有 k 稀疏向量 x，（P1）問題的解等于（P0）問題的解。有噪情況有噪情況：（Candes, 2005） 去噪問題 （P1) min |x|1 : | x y |2 ，x Rn ， 設(shè) 給定，且 y x e，| e |2 . 如果2k

7、 2 1，則 | x* - x |2 C0k -1/2k(x)1 + C1,其中 x* 是 （P1）的解，而k(x)1 min z Xk | x z |1 , Xk 是全體 k 稀疏向量集合，C0 和 C1 是兩個(gè)小數(shù)值常數(shù)。這個(gè)結(jié)果表明：解的誤差與觀測(cè)誤差在同樣的數(shù)量等級(jí)上解的誤差與觀測(cè)誤差在同樣的數(shù)量等級(jí)上 （穩(wěn)定性）。一個(gè)有趣的例子：研究的主要方向：n理論依據(jù) 目前的主要工作n最優(yōu)化算法 正交匹配跟蹤算法 隨機(jī)投影算法n應(yīng)用問題的壓縮傳感表述 壓縮傳感雷達(dá)。n實(shí)際應(yīng)用的處理方法2009年的一次國(guó)際會(huì)議征文：nCS算法。n適合于有噪聲、非稀疏信號(hào)、非線性測(cè)量的CS方法。nCS的數(shù)學(xué)理論n多

8、信號(hào)或帶附加信息的CS方法。n模擬信號(hào)的CS方法。n壓縮測(cè)量的信號(hào)處理n非自適應(yīng)信號(hào)壓縮nCS系統(tǒng)的硬件實(shí)現(xiàn)nCS的應(yīng)用隨機(jī)投影算法n “Random Projections Imaging With Extended Space-Bandwidth Product” By Adrian Stern and Bahram Javidi JOURNAL OF DISPLAY TECHNOLOGY, VOL. 3, NO. 3, SEPTEMBER 2007 隨機(jī)投影算法系統(tǒng)示意圖壓縮傳感雷達(dá)n“Compressed sening ladar”，ICASSP 2008，15091512在高斯白噪聲

9、下的成像比較 （15dB）1、如何更準(zhǔn)確地估計(jì)解的如何更準(zhǔn)確地估計(jì)解的 k k- -稀疏性和需要的最小量稀疏性和需要的最小量測(cè)數(shù)測(cè)數(shù) m m ？2 2、如何構(gòu)造觀測(cè)矩陣（或稱詞典矩陣）、如何構(gòu)造觀測(cè)矩陣（或稱詞典矩陣） ？使用隨？使用隨機(jī)數(shù)構(gòu)造觀測(cè)矩陣已證明可行，一定條件下能保證機(jī)數(shù)構(gòu)造觀測(cè)矩陣已證明可行，一定條件下能保證IP IP 條件。條件。 是否存在通用和對(duì)重建計(jì)算最有效的構(gòu)造方法？是否存在通用和對(duì)重建計(jì)算最有效的構(gòu)造方法？ 仍然在發(fā)展中的問題：仍然在發(fā)展中的問題：3 3、如何將壓縮感知的概念和方法應(yīng)用于更廣的圖像處理、如何將壓縮感知的概念和方法應(yīng)用于更廣的圖像處理 ？ 1 1）將常規(guī)圖像估計(jì)問題，改造成帶稀疏性限制的估計(jì)問將常規(guī)圖像估計(jì)問題，改造成帶稀疏性限制的估計(jì)問題，適合于成像、圖像重建、反降晰、去噪、修復(fù)、超分辨，題，適合于成像、圖像重建、反降晰、去噪、修復(fù)、超分辨，以及分割、配準(zhǔn)、識(shí)別、跟蹤、分類等。以及分割、配準(zhǔn)、識(shí)別、跟蹤、分類等。 （需要考慮變換域的稀疏性和變差稀疏性。）（需要考慮變換域的稀疏性和變差稀疏性。） 2 2）壓縮感知原理的物理實(shí)現(xiàn)技術(shù)。壓縮感知原理的物理實(shí)現(xiàn)技術(shù)。 仍然在發(fā)展中的問題：仍然在發(fā)展中的問題：4 4、如何更有效地處理信號(hào)重建中遇到的數(shù)學(xué)規(guī)劃、