小波分析及其應(yīng)用wavelet introduction

1 小波分析及其應(yīng)用WaveletAnalysisandIt sApplications同濟(jì)大學(xué)計(jì)算機(jī)系宣國榮2003年6月10日研究生講座 2009年11月10日補(bǔ)充附錄4 2 研究生講座 小波分析及其應(yīng)用 1 小波的特點(diǎn)和發(fā)展2 小波分析在一維信號(hào)處理中的應(yīng)用3 小波分析在圖象分析中的應(yīng)用圖象特征抽取圖象壓縮數(shù)據(jù)隱藏和圖象水印 3 1 小波的特點(diǎn)和發(fā)展 小波分析 是分析原始信號(hào)各種變化的特性 進(jìn)一步用于數(shù)據(jù)壓縮 噪聲去除 特征選擇等 例如歌唱信號(hào) 是高音還是低音 發(fā)聲時(shí)間長短 起伏 旋律等 從平穩(wěn)的波形發(fā)現(xiàn)突變的尖峰 小波分析是利用多種 小波基函數(shù) 對(duì) 原始信號(hào) 進(jìn)行分解 4 小波的時(shí)間和頻率特性 運(yùn)用小波基 可以提取信號(hào)中的 指定時(shí)間 和 指定頻率 的變化 時(shí)間 提取信號(hào)中 指定時(shí)間 時(shí)間A或時(shí)間B 的變化 顧名思義 小波在某時(shí)間發(fā)生的小的波動(dòng) 頻率 提取信號(hào)中時(shí)間A的比較慢速變化 稱較低頻率成分 而提取信號(hào)中時(shí)間B的比較快速變化 稱較高頻率成分 時(shí)間A 時(shí)間B 5 小波的成就 小波分析是純數(shù)學(xué) 應(yīng)用數(shù)學(xué)和工程技術(shù)的完美結(jié)合 從數(shù)學(xué)來說是大半個(gè)世紀(jì) 調(diào)和分析 的結(jié)晶 包括傅里葉分析 函數(shù)空間等 小波變換是20世紀(jì)最輝煌科學(xué)成就之一 在計(jì)算機(jī)應(yīng)用 信號(hào)處理 圖象分析 非線性科學(xué) 地球科學(xué)和應(yīng)用技術(shù)等已有重大突破 預(yù)示著小波分析進(jìn)一步熱潮的到來 6 多分辨度分析 MRA 1988年Mallat提出的多分辨度分析理論 統(tǒng)一了幾個(gè)不相關(guān)的領(lǐng)域 包括語音識(shí)別中的鏡向?yàn)V波 圖象處理中的金字塔方法 地震分析中短時(shí)波形處理等 當(dāng)在某一個(gè)分辨度檢測不到的現(xiàn)象 在另一個(gè)分辨度卻很容易觀察處理 例如 7 8 參考 M Vetterli WaveletsandSubbandCoding PrenticeHallPTR 1995p 11 9 小波的3個(gè)特點(diǎn) 小波變換 既具有頻率分析的性質(zhì) 又能表示發(fā)生的時(shí)間 有利于分析確定時(shí)間發(fā)生的現(xiàn)象 傅里葉變換只具有頻率分析的性質(zhì) 小波變換的多分辨度的變換 有利于各分辨度不同特征的提取 圖象壓縮 邊緣抽取 噪聲過濾等 小波變換比快速Fourier變換還要快一個(gè)數(shù)量級(jí) 信號(hào)長度為M時(shí) Fourier變換 左 和小波變換 右 計(jì)算復(fù)雜性分別如下公式 10 小波基表示發(fā)生的時(shí)間和頻率 時(shí)頻局域性 圖解 Fourier變換的基 上 小波變換基 中 和時(shí)間采樣基 下 的比較 傅里葉變換 Fourier 基小波基時(shí)間采樣基 11 Haar小波基母函數(shù) a Haar 近似 基函數(shù) b Haar 細(xì)節(jié) 基函數(shù)低頻濾波系數(shù)高頻濾波系數(shù)H0 11 qH1 1 1 q qq q q 其中 12 Haar小波的基函數(shù) 第1行基函數(shù)是取平均 近似 第2 8行基函數(shù)是取變化 細(xì)節(jié) 細(xì)節(jié)包括變化速率和發(fā)生的時(shí)間 尺度函數(shù)近似基函數(shù) 小波函數(shù)細(xì)節(jié)基函數(shù) 13 小波分析發(fā)展歷史 1807年Fourier提出傅里葉分析 1822年發(fā)表 熱傳導(dǎo)解析理論 論文1910年Haar提出最簡單的小波1980年Morlet首先提出平移伸縮的小波公式 用于地質(zhì)勘探 1985年Meyer和稍后的Daubeichies提出 正交小波基 此后形成小波研究的高潮 1988年Mallat提出的多分辨度分析理論 MRA 統(tǒng)一了語音識(shí)別中的鏡向?yàn)V波 子帶編碼 圖象處理中的金字塔法等幾個(gè)不相關(guān)的領(lǐng)域 14 小波基可以通過給定濾波系數(shù)生成 小波基 尺度函數(shù)和小波函數(shù) 可以通過給定濾波系數(shù)生成 有的小波基是正交的 有的是非正交的 有的小波基是對(duì)稱的 有的是非對(duì)稱的 小波的近似系數(shù)和細(xì)節(jié)系數(shù)可以通過濾波系數(shù)直接導(dǎo)出 而不需要確切知道小波基函數(shù) 這是I Daubechies等的重要發(fā)現(xiàn) 使計(jì)算簡化 是快速小波分解和重建的基礎(chǔ) 15 小波基函數(shù)和濾波系數(shù) Haar 正交 對(duì)稱 近似 基函數(shù) 反變換 低頻和高頻 濾波系數(shù) 細(xì)節(jié) 基函數(shù) Haar小波 正變換 低頻和高頻 濾波系數(shù) 16 小波基函數(shù)和濾波系數(shù) db2 正交 不對(duì)稱 近似 基函數(shù) 細(xì)節(jié) 基函數(shù) db小波 反變換 低頻和高頻 濾波系數(shù) 正變換 低頻和高頻 濾波系數(shù) 17 小波基函數(shù)和濾波系數(shù) db4 正交 不對(duì)稱 18 小波基函數(shù)和濾波系數(shù) sym4 正交 近似對(duì)稱 19 小波基函數(shù)和濾波系數(shù) bior2 4 雙正交 對(duì)稱 20 小波基函數(shù)和濾波系數(shù) bior6 8 雙正交 對(duì)稱 21 2 小波分析在一維信號(hào)處理中的應(yīng)用 小波變換就是將 原始信號(hào)s 變換成 小波系數(shù)w w wa wd 包括近似 approximation 系數(shù)wa與細(xì)節(jié) detail 系數(shù)wd近似系數(shù)wa 平均成分 低頻 細(xì)節(jié)系數(shù)wd 變化成分 高頻 22 小波原始信號(hào)分解過程 原始信號(hào)s可分解成小波近似a與小波細(xì)節(jié)d之和 s a d小波系數(shù)w wa wd 的分量 乘以基函數(shù) 形成小波分解 小波近似系數(shù)wa 基函數(shù)A 近似分解a 平均小波細(xì)節(jié)系數(shù)wd 基函數(shù)D 細(xì)節(jié)分解d 變化 23 小波分解和小波基 正變換 原始信號(hào)在小波基上 獲得 小波系數(shù) 分量反變換 所有 小波分解 合成原始信號(hào)例如 小波分解a 小波系數(shù)wa 小波基A 24 離散小波變換公式 正變換反變換其中 是小波基函數(shù)參考 數(shù)字圖象處理 英文版 電子工業(yè)出版社 2002年 R C Gonzalaz DigitalImageProcessing p 375 信號(hào)s有M個(gè)樣本 J級(jí)小波變換 小波分解 小波系數(shù) 25 一維信號(hào)小波變換例子 Haar小波 例子 16點(diǎn)信號(hào) 6598378565981339 通過MATLAB實(shí)現(xiàn) wavemenu 波形圖小波正變換 小波系數(shù) 小波近似系數(shù) 加 小波細(xì)節(jié)系數(shù) 減 小波反變換 可以由分解信號(hào)恢復(fù)原始信號(hào) 有2種 近似分解 細(xì)節(jié)分解 26 一維信號(hào)的二級(jí)小波變換系數(shù) 原始信號(hào)2級(jí)小波系數(shù)w2 wa2 wd2 wd1 Haar是正交變換 除以常數(shù) 目的使變換后平方和不變 例如 16位 2級(jí)近似系數(shù) 2級(jí)細(xì)節(jié)系數(shù) 1級(jí)細(xì)節(jié)系數(shù) 16位 27 一維信號(hào)的二級(jí)小波變換分解 2級(jí)近似分解 原始信號(hào)每4個(gè)平均值 2級(jí)細(xì)節(jié)分解 原始信號(hào)每2個(gè)平均的差值 1級(jí)細(xì)節(jié)分解 原始信號(hào)單數(shù)和雙數(shù)的差值 恢復(fù)信號(hào) 28 一維信號(hào)的二級(jí)小波變換系數(shù)和分解 原始信號(hào)2級(jí)小波系數(shù)w2 wa2 wd2 wd1 2級(jí)近似分解 原始信號(hào)每4個(gè)平均值 2級(jí)細(xì)節(jié)分解 原始信號(hào)每2個(gè)平均的差值 1級(jí)細(xì)節(jié)分解 原始信號(hào)單數(shù)和雙數(shù)的差值 恢復(fù)信號(hào) 29 原始信號(hào)s 6598378565981339 小波系數(shù) 近似 wa2 28232816 2按照原始信號(hào)分辨率擴(kuò)展 a2 wa2 A2s每四個(gè)平均值a2 28282828232323232828282816161616 4wa2 28282828232323232828282816161616 2擴(kuò)展基函數(shù)A2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細(xì)節(jié)2 wd2 6 3 6 8 2按照原始信號(hào)分辨率擴(kuò)展 d2 wd2 D2s每二個(gè)平均的差值d2 6 6 6 6 3 3 3 3 6 6 6 6 8 8 8 8 4wd2 6 6 6 6 3 3 3 3 6 6 6 6 8 8 8 8 2擴(kuò)展基函數(shù)D2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細(xì)節(jié)1 wd1 1 1 4 3 1 1 2 6 sqrt 2 按照原始信號(hào)分辨率擴(kuò)展 d1 wd1 D1s每單雙數(shù)的差值d1 1 1 1 1 4 4 3 3 1 1 1 1 2 2 6 6 2wd1 1 1 1 1 4 4 3 3 1 1 1 1 2 2 6 6 sqrt 2 擴(kuò)展基函數(shù)D1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 sqrt 2 恢復(fù) s1 a2 d2 d1 s1 s 6598378565981339 16點(diǎn)HAAR小波分解與恢復(fù)例子 其中 30 原始信號(hào)16點(diǎn) 31 兩級(jí)小波系數(shù)16點(diǎn) 原始信號(hào)小波系數(shù) 32 16點(diǎn)信號(hào)的Haar小波近似值和細(xì)節(jié)分解 兩級(jí)分解 33 小波去噪聲 一般噪聲特點(diǎn) 1 高頻成分 細(xì)節(jié) 2 幅度小 用閾值 去噪聲過程 去除原始信號(hào)高頻成分 細(xì)節(jié) 中幅度小于閾值部分 對(duì)2級(jí)小波 設(shè)定2個(gè)閾值 稱 閾值2 和 閾值1 去除1級(jí)噪聲 去除1級(jí)小波細(xì)節(jié)分解中小于 閾值1 部分 去除2級(jí)噪聲 去除2級(jí)小波細(xì)節(jié)分解中小于 閾值2 部分 恢復(fù) 將小波近似分解 加上去噪聲后小波細(xì)節(jié)分解 即獲得去除噪聲的信號(hào) 34 噪聲去除 兩級(jí)分解噪聲去除 括號(hào)內(nèi)保留部分?jǐn)?shù)據(jù) 35 小波去噪聲16點(diǎn) 6598378565981339 原始信號(hào) 紅 去噪后 黃 36 Haar小波去噪聲 16點(diǎn)信號(hào) 16點(diǎn)原始信號(hào) 6598378565981339 小波去噪聲 兩級(jí)分解 37 一維信號(hào)的小波變換例子2 電壓曲線 通過MATLAB實(shí)現(xiàn) wavemenu 波形圖 MATLAB toolbox wavelet wavedemo leleccum mat 是 電網(wǎng)監(jiān)視的電壓曲線 有4570個(gè)點(diǎn)Haar小波變換 38 haar小波 s a2 d2 d1 wavemenu leleccumLevel2 s 原始信號(hào) a2 近似 d1 d2細(xì)節(jié) 39 40 圖 5haar s a5 d5 d1 wavemenu leleccumLevel5a5 近似 d5 d1細(xì)節(jié) 附錄 5 wavemenu leleccumhaarLevel5 leleccum mat是有36560個(gè)點(diǎn)的一維電壓信號(hào) s 原始信號(hào) a1 近似 d1 細(xì)節(jié) 信號(hào)前2和后2的差 細(xì)節(jié)2 信號(hào)奇偶數(shù)值的差 細(xì)節(jié)1 原始信號(hào) 信號(hào) 近似值 5級(jí)小波分解 41 小波去噪聲leleccumhaar小波 兩級(jí)小波系數(shù) 1級(jí)細(xì)節(jié)小波系數(shù) 2級(jí)細(xì)節(jié)小波系數(shù) 黃虛線表示閾值 wd1 wd2 原始信號(hào) 紅 去噪后 黃 42 小波壓縮leleccumhaar 43 小波壓縮效果leleccumhaar 44 3 小波分析在圖象處理中的應(yīng)用 圖象是二維信號(hào) 其小波變換相當(dāng)于二次一維信號(hào)的小波變換 1 第一次一維信號(hào)的小波變換相當(dāng)于圖象的行變換 2 第二次一維信號(hào)的小波變換相當(dāng)于圖象的列變換 小波變換用于圖象壓縮有良好的效果 已形成圖象壓縮的標(biāo)準(zhǔn)如JPEG2000 45 小波變換用于圖象特征抽取 46 第1級(jí)L1斜線細(xì)節(jié) 第1級(jí)L1水平細(xì)節(jié) 第1級(jí)L1垂直細(xì)節(jié) 第2級(jí)L2細(xì)節(jié) 近似圖象 第3級(jí)L3 小波系數(shù)分級(jí)方塊表示法 47 第3級(jí)L3分辨率 第2級(jí)L2分辨率 第1級(jí)L1分辨率 小波系數(shù)分級(jí)樹形表示法 48 小波變換用于圖象壓縮 采用小波進(jìn)行壓縮 作 小波變換 后 統(tǒng)計(jì)特性有改善 消除行和列之間的相關(guān)關(guān)系 有損壓縮 根據(jù)視覺原理 不同分辨率小波系數(shù)進(jìn)行比特分配 然后轉(zhuǎn)換到一維作熵編碼 如算術(shù)編碼或霍夫曼編碼 無損壓縮 選擇 整數(shù)小波變換 無舍入誤差 但不能進(jìn)行比特分配 49 小波變換用于圖象壓縮 第3級(jí)L3水平 斜線 垂直細(xì)節(jié) 第2級(jí)L2水平 斜線 垂直細(xì)節(jié) 第1級(jí)L1水平 斜線 垂直細(xì)節(jié) 兩閾值線之間的直方圖被去除 有損壓縮 50 小波變換用于無損數(shù)據(jù)隱藏 無損數(shù)據(jù)隱藏 是基于無損壓縮 選擇 整數(shù)小波變換 無舍入誤差 例如可以采用第二代小波 無損數(shù)據(jù)隱藏 避免在嵌入數(shù)據(jù)后小波反變換時(shí)圖象灰度的溢出 小波變換前要作預(yù)處理 作直方圖調(diào)整 將圖象中灰度出現(xiàn)少的數(shù)據(jù) 合并入隱藏?cái)?shù)據(jù) 第一個(gè)無損數(shù)據(jù)隱藏是1999年科達(dá)公司發(fā)表的一個(gè)專利 由于法律上原因 醫(yī)學(xué)圖象數(shù)據(jù)隱藏必須是無損的 此外 無損數(shù)據(jù)隱藏在電子銀行 電子政務(wù) 電子商務(wù) 圖象建檔等有廣泛的用途 51 數(shù)據(jù)嵌入核磁共振醫(yī)學(xué)圖象 可無損恢復(fù) 水印圖象見下頁 a 原始 512 512 8 b 小波域嵌入水印圖象 52 水印圖象 192 120 2二值圖象 53 小波變換用于無損數(shù)據(jù)隱藏 交通圖象 原始圖象 1024 768 信息隱藏后的偽裝圖象 1024 768 同時(shí)隱藏5張 320 280 圖象 見下頁 54 同時(shí)隱藏的5張 320 280 交通圖象 可完全恢復(fù) 55 小波變換用于圖象水印 指紋原始圖象嵌入水印 取款密碼等 后圖象 指紋傳感器 標(biāo)準(zhǔn)的Veridicom指紋鼠標(biāo)指紋開發(fā)工具 VeridicomAuthenticationSDK以Windows的DLL庫方式提供指紋庫 FingerprintVerificationCompetition FVC FVC2000db1是由光學(xué)設(shè)備采集 FVC2000db2是由電容設(shè)備采集 銀行取款密碼嵌入指紋 網(wǎng)上進(jìn)行身份認(rèn)證 56 小波變換用于圖象水印 小波正變換 小波反變換 小波正變換 小波反變換 數(shù)據(jù)嵌入 數(shù)據(jù)提取 原始圖象 加水印后圖象輸入 原始圖象 加水印后圖象輸出 隱藏?cái)?shù)據(jù) 隱藏?cái)?shù)據(jù) 57 小波分析最新進(jìn)展 1 第二代小波 稱提升算法 可用于整數(shù)小波 2 嵌入零樹法 獲得更優(yōu)良的效果 3 小波與統(tǒng)計(jì)理論結(jié)合 4 商品化 如 JPEG2000 小波圖象壓縮標(biāo)準(zhǔn) MATLAB小波計(jì)算包等 58 小波分析及其應(yīng)用 講座小結(jié) 1 小波分析理論上比較完善小波變換基 既具有頻率局域性質(zhì) 又具有時(shí)間局域性質(zhì) 小波變換的多分辨度的變換 能在多個(gè)尺度上分解 便于觀察信號(hào)在不同尺度 分辨率 上不同時(shí)間的特性 2 小波分析有廣泛的實(shí)用性小波變換存在快速算法 對(duì)于M點(diǎn)序列而言 計(jì)算復(fù)雜性為 O M 處理快速 小波變換基函數(shù)有多種類型 可以是正交的 也可以是非正交 雙正交 比傅里葉變換更加靈活 59 附錄1 2級(jí)Haar小波變換4點(diǎn)例子 細(xì)節(jié)系數(shù) wd1 形成后不再變化 原始信號(hào)1級(jí)小波近似系數(shù)1級(jí)小波細(xì)節(jié)系數(shù)2級(jí)小波近似系數(shù)2級(jí)小波細(xì)節(jié)系數(shù) s w1 w2的平方和不變 60 附錄2 一級(jí) 二級(jí)小波16點(diǎn) 61 附錄3 16點(diǎn)小波去噪聲 62 16點(diǎn)HAAR小波去噪聲例子 原始信號(hào)s 6598378565981339 小波系數(shù) 近似 wa2 28232816 2按照原始信號(hào)分辨率擴(kuò)展 a2 wa2 A2 s每四個(gè)平均值a2 28282828232323232828282816161616 4wa2 28282828232323232828282816161616 2擴(kuò)展基函數(shù)A2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 小波系數(shù) 細(xì)節(jié)2 wd2 000 1 2按照原始信號(hào)分辨率擴(kuò)展 d