模式識(shí)別實(shí)習(xí)報(bào)告

1、精品一、貝葉斯估計(jì)做分類【問題描述】實(shí)習(xí)題目一：用貝葉斯估計(jì)做分類。問題描述：給出試驗(yàn)區(qū)裸土加水田的tif圖像，要求通過貝葉斯估計(jì)算法對(duì)房屋、水田及植被進(jìn)行分類。問題分析：首先通過目視解譯法對(duì)圖像進(jìn)行分類，獲取裸土、水田和植被的DN值，在此基礎(chǔ)上，通過該部分各個(gè)類別的面積計(jì)算先驗(yàn)概率，然后帶入公式進(jìn)行計(jì)算，從而對(duì)整個(gè)圖像進(jìn)行分類。【模型方法】與分布有關(guān)的統(tǒng)計(jì)分類方法主要有最大似然/貝葉斯分類。最大似然分類是圖像處理中最常用的一種監(jiān)督分類方法,它利用了遙感數(shù)據(jù)的統(tǒng)計(jì)特征,假定各類的分布函數(shù)為正態(tài)分布在多變量空間中形成橢圓或橢球分布,也就是和中個(gè)方向上散布情況不同,按正態(tài)分布規(guī)律用最大似然判別規(guī)則

2、進(jìn)行判決,得到較高準(zhǔn)確率的分類結(jié)果。否則,用平行六面體或最小距離分類效果會(huì)更好?！痉桨冈O(shè)計(jì)】 確定需要分類的地區(qū)和使用的波段和特征分類數(shù),檢查所用各波段或特征分量是否相互已經(jīng)位置配準(zhǔn)； 根據(jù)已掌握的典型地區(qū)的地面情況,在圖像上選擇訓(xùn)練區(qū)； 計(jì)算參數(shù),根據(jù)選出的各類訓(xùn)練區(qū)的圖像數(shù)據(jù),計(jì)算和確定先驗(yàn)概率；分類,將訓(xùn)練區(qū)以外的圖像像元逐個(gè)逐類代入公式,對(duì)于每個(gè)像元,分幾類就計(jì)算幾次,最后比較大小,選擇最大值得出類別；產(chǎn)生分類圖，給每一類別規(guī)定一個(gè)值，如果分10類，就定每一類分別為1,210，分類后的像元值便用類別值代替,最后得到的分類圖像就是專題圖像.由于最大灰階值等于類別數(shù),在監(jiān)視器上顯示時(shí)需要給

3、各類加上不同的彩色； 檢驗(yàn)結(jié)果,如果分類中錯(cuò)誤較多,需要重新選擇訓(xùn)練區(qū)再作以上各步,直到結(jié)果滿意為止。【結(jié)果討論】如圖所示，通過貝葉斯算法，較好地對(duì)圖像完成了分類，裸土、植被和水田三個(gè)類別清晰地判別出來。在計(jì)算先驗(yàn)概率時(shí)，選擇何種數(shù)據(jù)成為困擾我的一個(gè)問題。既有ENVI自身提供的精確的先驗(yàn)概率值，也可以自己通過計(jì)算各個(gè)類別的面積，從而獲取大致的先驗(yàn)概率值。最后，在田老師的講解下，我知道了雖然數(shù)據(jù)可能不太精確，但是，計(jì)算先驗(yàn)概率時(shí)，總體的傾向是一致的，所以在最后判別時(shí)，因此而引起的誤差是微乎其微的，所以，一定要弄清楚算法原理,才能讓自己的每一步工作都有理可循。AftCcnhjsl&nP/a

4、tru-13,(“。”4穌”箱外?2“)白工占Ca*ffletear*D.S3B4口 li£3EtodCLmb 1CL*t« fCLm« 1HUU Trut Hift口口 IC12 1 0im 4，M 痔EBM5】J a j-ijj um 7075t “4MIctal Q】格仙甲 帆CC.-BIM iKlAvei f iMCL*s>s i$L.7CLASS 1Total-1mnit "rath. (Prjant) f feclanif i.adClma 1Q| M6 >0O.gw «0 gl.»D DOD 40a>

5、d»w2f 30 a $001 fl 24 3fl18&CdhiiLS4L0nNinian與 LurM陽1o w(Pvrnt 0 »CL«n 142 12Z £BCL-B-S4 2SOTJ&.W3winien,抑1塞2 0LZQ 打52，1幻7>7 LKl/gWdHg】例】ajfiwlBj2230100575弧以4二U 口 ,，川ClanM»eL«««L t i»d 1cL立白看i CL»« J Class 1ITtM fcocili*r *cc0 »

6、57. % >i 13 17 3FTnd *CF(PlK14j Ml502 7?-IC 05 757Ml”Muxt *cr(Fane14 J Ozfi5alz篙，比弓7”atcMtl H 翱；4闔仃】N# -感謝下載載以上是精度評(píng)價(jià)，由于目視解譯的效果有瑕疵，再加上計(jì)算先驗(yàn)概率時(shí)存在偏差，導(dǎo)致精度只有七十多，有待改善。二、用Fisher準(zhǔn)則判別【問題描述】實(shí)習(xí)題目二：用Fisher準(zhǔn)則進(jìn)行判別。問題描述：給出試驗(yàn)區(qū)裸土加水田的tif圖像，要求通過Fisher準(zhǔn)則進(jìn)行分類。問題分析：首先通過目視解譯法對(duì)圖像進(jìn)行分類，獲取植被和非植被的DN值，在此基礎(chǔ)上，通過一系列矩陣求逆等數(shù)學(xué)公式的計(jì)算，

7、求出可以分開二類樣本的直線，然后在此基礎(chǔ)上從而對(duì)整個(gè)圖像進(jìn)行分類。【模型方法】如果在二維空間中一條直線能將兩類樣本分開，或者錯(cuò)分類很少，則同一類別樣本數(shù)據(jù)在該直線的單位法向量上的投影的絕大多數(shù)都應(yīng)該超過某一值。而另一類數(shù)據(jù)的投影都應(yīng)該小于（或絕大多數(shù)都小于）該值，則這條直線就有可能將兩類分開。準(zhǔn)則：向量W的方向選擇應(yīng)能使兩類樣本投影的均值之差盡可能大些，而使類內(nèi)樣本的離散程度盡可能小。這就是Fisher準(zhǔn)則函數(shù)的基本思路。y=wT+w0評(píng)價(jià)投影方向w的函數(shù)：jF（w）=WTSbwJFWTSwW最佳W值的確定：求取使JF達(dá)極大值時(shí)的w*：W*=S-/1（m1-m2）山mlm2W0的確定：W0=-

8、當(dāng)W0確定之后，則可按以下規(guī)則分類,WTX、-W0rXw1WTX:：-woXw2【方案設(shè)計(jì)】50及考慮Fisher線性判別方法，利用實(shí)驗(yàn)1中程序產(chǎn)生的數(shù)據(jù)（分別在各類樣本數(shù)均為500時(shí)），計(jì)算：1）求解最優(yōu)投影方向W;2）求出表示最優(yōu)投影方向的直線，并且標(biāo)記出投影后的點(diǎn)在直線上的位置；3）計(jì)算投影后的閾值權(quán)；4）計(jì)算分類器的各類錯(cuò)誤率及總的平均錯(cuò)誤率；5）計(jì)算按最小錯(cuò)誤率Bayes決策的錯(cuò)誤率（設(shè)各類先驗(yàn)概率相同）【結(jié)果討論】通過運(yùn)用三個(gè)波段的植被和非植被的DN值，從而獲取Fisher判別的分類直線。首先由于計(jì)算時(shí)需要運(yùn)用矩陣求逆等各種公式，這一步困擾了我很久，后來在同學(xué)的幫助下，自己對(duì)算法不

9、斷改正，初步達(dá)到了計(jì)算的要求。計(jì)算出投影方向和分割閾值后，對(duì)圖像進(jìn)行分類就很輕松了。但是，由于時(shí)間的緊迫和自己能力的不足，并沒有再對(duì)非植被類完成裸土和水田的分割。運(yùn)用Fisher準(zhǔn)則對(duì)多類地物進(jìn)行分割時(shí)，可以將多維降低，從而一步步完成分類，這一思路是需要我在實(shí)習(xí)結(jié)束后好好琢磨并完善的。口冠納 Ccrifus loH MdUl.tLgE*ron MthH |Na>£W/l但M花注”-41*14獷IMS” M MF* Kmw Covf t iclvst 1(iQgOr y*iid Tdh(Fiho14 JC.a&sJaclassitClass 3CJlhss 1latal巾

10、*01«：L=i5 1Qi1621”L1MS $JLQVTeH 1D16214*107E?q?»4tU2U»工打川Clan 3CJLb«« 1TetelVbz;L«»i£ ledD.D>00.M« n0.01Cl«s« 1D.DD100' OtIDO 001DD 01Cl»« 30 J>Q0。口Q CO0 Mrm100 0« M C<0lOOQtGim Try th ( Psrcwit .L MBi*dClass 1Cl*e

11、71; 1口 4nM(PlmwIe01JC；52-132095 w11 H IE (Pi9tvl« ) 0 ELhxlibC1M«(Psrcent)a*irteePrrt4郎9忖喂(PlmIj)V&SL«SSlCl«CQQC(kQ，QCJl&fi*1ISM電*維"id*U2141WfiflieC1m«30.D>0。憂O-3Q7E2"0以上是精度評(píng)價(jià)，用Fisher判別對(duì)植被和非植被進(jìn)行判別，效果較好。三、K均值聚類判別【問題描述】實(shí)習(xí)題目三：用K均值聚類對(duì)圖像進(jìn)行分類。問題描述：給出試驗(yàn)區(qū)裸土加水田的t

12、if圖像，要求通過K均值聚類算法進(jìn)行分類。問題分析：首先通過目視解譯法對(duì)圖像進(jìn)行分類，獲取裸土、水田和植被的DN值，在此基礎(chǔ)上，可分為三個(gè)聚類中心，將圖像上的每個(gè)像素點(diǎn)依次分類到三個(gè)聚類中，從而完成對(duì)圖像裸土、水田和植被的分類?！灸Ｐ头椒ā縆-均值算法的主要思想是先在需要分類的數(shù)據(jù)中尋找K組數(shù)據(jù)作為初始聚類中心，然后計(jì)算其他數(shù)據(jù)距離這三個(gè)聚類中心的距離，將數(shù)據(jù)歸入與其距離最近的聚類中心，之后再對(duì)這K個(gè)聚類的數(shù)據(jù)計(jì)算均值，作為新的聚類中心，繼續(xù)以上步驟，直到新的聚類中心與上一次的聚類中心值相等時(shí)結(jié)束算法?！痉桨冈O(shè)計(jì)】1 、從圖像中隨機(jī)選取三個(gè)像素點(diǎn)，作為三個(gè)簇的各自的中心。2 、分別計(jì)算剩下的元

13、素到三個(gè)簇中心的相異度，將這些元素分別劃歸到相異度最低的簇。3、根據(jù)聚類結(jié)果，重新計(jì)算三個(gè)簇各自的中心，計(jì)算方法是取簇中所有元素各自維度的算術(shù)平均數(shù)。4、將圖像中全部像素點(diǎn)按照新的中心重新聚類。5 、重復(fù)第4步，直到每個(gè)簇的中心基本不再變化。6 、將結(jié)果輸出?！窘Y(jié)果討論】如圖所示，首先隨機(jī)選取三個(gè)圖像的像素點(diǎn)作為聚類中心，在一次次根據(jù)距離判斷分類后，最后得到三個(gè)聚類中心就分別是植被、水田和裸土。在這樣的基礎(chǔ)上，對(duì)圖像上每個(gè)像素點(diǎn)的DN值進(jìn)行判斷，再根據(jù)劃分的聚類中心將其歸類，最后將圖像分成三類，較好地達(dá)到了既定目的?？诘? CgMufli MfrthXL'QUT'MX9k4m竄

14、|淚川騾*1卜Qwvllfccu.but|6：DGUO4Z3D)M?7b4心口HCceEEijciu上-0MilC3444GlMk>d iMih CPfri-rwni： 1匚1事4 3ri4M 1Quel.mHrun 2Jncli.-»i f iadD I'D0 ODQ.OV nCUm JD C'D"時(shí)11 ga帛CLua iQ C'Oo 0CU*i 30 30 440 01” 4Totaln r>nloo on10Q< 0Q)ini nTMidBIO 4V 77 ：4 1U 14. ir i nuotuiMicai201.21 3

15、1HSI 2?1B -15 JB33 1?，皿WLi«i!G5ian(Pim1wI5m，節(jié):nt n24，/Cl«W P *BCL*WCP«r0«nA：i(Pvr&»l IUmIzNaEQ CQ。5ClsBi 25B.C3H3.63Lua IVI 7101H BEPtm ra»Jl«kU JZ355Z?打，口;£ lEDRIH 1R”UQfln Aw漸." ”$5="U5O。 IDfg1ErWVMltMl1L*4Cl«wi2CI4VV1ClMV1Tvt»JDQnuU2

16、9EU4IMS想，IIUIQD221BlEQGUE*1EM”1277Qi1M4B*H&75-電umrMintGitzlajITrLih.4Fiulfj三藍(lán)tt&SJz'lclLl以上是精度評(píng)價(jià)，由于K均值聚類中心較為簡單，所以評(píng)價(jià)精度較高，達(dá)到了既定目的?？偨Y(jié)通過本次上機(jī)，我對(duì)模式識(shí)別這門課程有了更深層次的理解。首先是學(xué)習(xí)并使用Envi,對(duì)這個(gè)圖像處理軟件有了初步的掌握。在目視解譯時(shí)，由于經(jīng)驗(yàn)不足，錯(cuò)誤率較高，以后有待加強(qiáng)。在設(shè)計(jì)算法時(shí)，由于寫代碼的能力不是很強(qiáng)，所以一些關(guān)鍵代碼無法寫出來，只能夠簡單化處理，勉強(qiáng)達(dá)到題目的要求。但是，在短短的幾次上機(jī)中，我收獲了很多知識(shí)

17、，Bayes二類判別，F(xiàn)isher判別準(zhǔn)則，K均值聚類分析，對(duì)這些算法的思路有所了解并加以應(yīng)用，獲益良多。遇到問題時(shí)，在同學(xué)、學(xué)長和老師的幫助下，我一步步攻堅(jiān)克難，最終完成了老師的要求，比較滿意。先說說最大似然估計(jì)和貝葉斯估計(jì)：這兩種方法的前提條件是各類別的條件概率密度的形式已知，而參數(shù)類未知。在此情況下，對(duì)現(xiàn)有的樣本進(jìn)行參數(shù)估計(jì)。參數(shù)估計(jì)在統(tǒng)計(jì)學(xué)中是很經(jīng)典的算法，而最大似然估計(jì)和貝葉斯估計(jì)也是參數(shù)估計(jì)中常用的方法。最大似然估計(jì)是把待估參數(shù)看作確定性的量，只是其取值未知，最大似然估計(jì)方法所尋找的是能最好解釋訓(xùn)練樣本的那個(gè)參數(shù)值，貝葉斯估計(jì)把待估參數(shù)看作是符合某種先驗(yàn)概率分布的隨機(jī)變量，而訓(xùn)練樣本的作用就是把先驗(yàn)概率轉(zhuǎn)化為后驗(yàn)概率。實(shí)際生活中，用的更多的還是最大似然估計(jì)，因?yàn)榇朔椒ǜ菀讓?shí)現(xiàn)，而且樣