畢業(yè)設(shè)計(jì)方案

1、畢業(yè)設(shè)計(jì)方案題 目 ： 基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別方法研究 學(xué) 院 ： 忻州師范學(xué)院 系 別 ： 計(jì)算機(jī)系 本0904班 學(xué) 號(hào) ： 201108112013 姓 名 ：楊旭東 指導(dǎo)老師： 曹建芳 2012年12月11日一、 選題背景與意義1 隨著圖像技術(shù)各種基本理論的發(fā)展，各種應(yīng)用圖文系統(tǒng)在國民經(jīng)濟(jì)各部門得到了廣泛的應(yīng)用。現(xiàn)在，通信、廣播、計(jì)算機(jī)技術(shù)、工業(yè)自動(dòng)化、國防工業(yè)、，乃至印刷、醫(yī)療等部門的尖端課題無一不與圖像技術(shù)的發(fā)展密切相關(guān)。事實(shí)上，圖像技術(shù)已成為各種高技術(shù)領(lǐng)域的匯流點(diǎn)，更有人預(yù)言，“圖像識(shí)別技術(shù)”將是21世紀(jì)影響國民經(jīng)濟(jì)、國家防務(wù)和世界經(jīng)濟(jì)的舉足輕重的關(guān)鍵技術(shù)。圖像識(shí)別是近二十年發(fā)展

2、起來的一門新型技術(shù)科學(xué)，它以研究某些對(duì)象或者過程(統(tǒng)稱圖像)的分類與描述為主要內(nèi)容。圖像識(shí)別在很多領(lǐng)域中得到了應(yīng)用，如人臉和指紋識(shí)別、字符識(shí)別、醫(yī)學(xué)診斷，等等。簡單的說，圖像識(shí)別是圖像中的物體的模式分類，同時(shí)包括物體特征的確定，如位置、方向和尺寸等。傳統(tǒng)方法主要是統(tǒng)計(jì)模式識(shí)別、光學(xué)模式識(shí)別、分形識(shí)別、信息熵識(shí)別方法，但這些傳統(tǒng)方法自適應(yīng)能力很差，而且是在沒有噪聲干擾的情況下進(jìn)行的。這幾年神經(jīng)網(wǎng)絡(luò)圖像識(shí)別技術(shù)作為一種新型圖像識(shí)別技術(shù)，在圖像識(shí)別中的應(yīng)用越來越廣泛。2 人工神經(jīng)網(wǎng)絡(luò)是由大規(guī)模神經(jīng)元互聯(lián)組成的高度非線性動(dòng)力學(xué)系統(tǒng)，是在認(rèn)識(shí)、理解人腦組織結(jié)構(gòu)和運(yùn)行機(jī)制的基礎(chǔ)上模擬起結(jié)構(gòu)和智能行為的一種

3、工程系統(tǒng)，它具有很強(qiáng)的學(xué)習(xí)、容錯(cuò)和信息處理能力，并有很高的靈活心及計(jì)算機(jī)并行性。最初，神經(jīng)網(wǎng)絡(luò)作為模式識(shí)別分類器和聚類技術(shù)在圖像處理領(lǐng)域中得到應(yīng)用，如印刷體和手寫字符識(shí)別、語音識(shí)別，以及指紋、人臉識(shí)別，等等。隨著人們對(duì)神經(jīng)網(wǎng)絡(luò)理論的進(jìn)一步研究，神經(jīng)網(wǎng)絡(luò)在圖像處理的很多領(lǐng)域也得到了成功的應(yīng)用。如圖像壓縮、圖像特征提取、圖像變換編碼，等等。如今，人工神經(jīng)網(wǎng)絡(luò)已經(jīng)成為當(dāng)今科學(xué)研究的熱點(diǎn)之一。二、設(shè)計(jì)內(nèi)容 1.圖像識(shí)別技術(shù)的基本原理和相應(yīng)的處理技術(shù)，對(duì)目前常用的圖像識(shí)別方法進(jìn)行了分析、討論和比較。2.神經(jīng)網(wǎng)絡(luò)的基本原理、網(wǎng)絡(luò)結(jié)構(gòu)及網(wǎng)絡(luò)的學(xué)習(xí)方式，研究了神經(jīng)網(wǎng)絡(luò)用于圖像識(shí)別的原理及優(yōu)點(diǎn)。3.圖像識(shí)別中常

4、用的前饋神經(jīng)網(wǎng)絡(luò)及其采用的BP算法，并將具有全局優(yōu)化功能的遺傳算法與前饋神經(jīng)網(wǎng)絡(luò)相結(jié)合，提出了一種遺傳與BP相結(jié)合的圖像識(shí)別方法，解決7BP算法容易陷入局部極小的不足。并給出了仿真實(shí)驗(yàn)。4.支持向量機(jī)的基本知識(shí)及其分類識(shí)別的原理。詳細(xì)介紹了支持向量機(jī)的分類策略和核函數(shù)的選擇問題。并在此基礎(chǔ)上，將二迸制編碼引入到圖像識(shí)別的支持向量機(jī)分類策略中，提高了支持向量機(jī)在圖像識(shí)別中的識(shí)別速度。并在此分類策略上提出了一種動(dòng)態(tài)的自動(dòng)樣本類別增】Jnill練方法。5.遺傳一BP網(wǎng)絡(luò)和支持向量機(jī)在車牌及人臉識(shí)別中具體的應(yīng)用方法及結(jié)果分析。三、設(shè)計(jì)方案 1 引言人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Ne

5、tworks)(簡稱ANN)系統(tǒng)從20世紀(jì)40年代末誕生至今僅短短半個(gè)世紀(jì)，但由于它具有信息的分布存儲(chǔ)、并行處理以及自學(xué)習(xí)能力等優(yōu)點(diǎn)，已經(jīng)大信息處理、模式識(shí)別、智能是基于誤差反向傳播(Error Back Propagation)算法的多層前饋網(wǎng)絡(luò)(Multiple-Layer Feedforward Network)(簡稱BP網(wǎng)絡(luò))，可以以任意精度逼近任意的連續(xù)函數(shù)，所以廣泛應(yīng)用魚非線性建模、函數(shù)逼近、模式分類等方面。 目標(biāo)識(shí)別是模式領(lǐng)域的一項(xiàng)傳統(tǒng)的課題，這是因?yàn)槟繕?biāo)識(shí)別不是一個(gè)孤立的問題，而是模式識(shí)別領(lǐng)域中大多數(shù)課題都會(huì)遇到的問題，并且在不同的課題中，由于具體的條件不同，解決的方法也不盡相

6、同，因而目標(biāo)識(shí)別的研究仍具有理論和實(shí)踐意義，這里討論的是將要識(shí)別的目標(biāo)物體用成像頭(紅外或可見光等)攝入后形成的圖像信號(hào)序列送入計(jì)算機(jī)，用神經(jīng)網(wǎng)絡(luò)識(shí)別圖像的問題。2 BP神經(jīng)網(wǎng)絡(luò)2.1 BP 神經(jīng)網(wǎng)絡(luò)BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移的多層網(wǎng)絡(luò)。一個(gè)典型的BP網(wǎng)絡(luò)采用的是梯度下降算法，也就是Widrow-Hoff算法規(guī)定的。Backpropagation就是指的為非線性多層網(wǎng)絡(luò)計(jì)算梯度的方法，一個(gè)典型的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示其中:對(duì)于第k個(gè)模式對(duì)，輸出層單元的j的加權(quán)輸入為該單元的實(shí)際輸出為而隱含層單元i的加權(quán)輸入為該單元的實(shí)際輸出為函數(shù)f為可微分遞減函數(shù)其算法描述如

7、下：(1) 初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù)，如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣、學(xué)習(xí)因子等。(2) 提供訓(xùn)練模式，訓(xùn)練網(wǎng)絡(luò)，直到滿足學(xué)習(xí)要求。(3) 前向傳播過程：對(duì)給定訓(xùn)練模式輸入，計(jì)算網(wǎng)絡(luò)的輸出模式，并與期望模式比較，若有誤差，則執(zhí)行(4)；否則，返回(2)。(4) 后向傳播過程：a.計(jì)算同一層單元的誤差；b.修正權(quán)值和閥值；c.返回(2)。2.2 BP網(wǎng)絡(luò)隱層個(gè)數(shù)的選擇 對(duì)于含有一個(gè)隱層的三層BP網(wǎng)絡(luò)可以實(shí)現(xiàn)輸入到輸出的任何非線性映射。增加網(wǎng)絡(luò)隱層數(shù)可以降低誤差，提高精度，但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化，增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間。誤差精度的提高也可以通過增加隱層結(jié)點(diǎn)數(shù)來實(shí)現(xiàn)。一般情況下，應(yīng)優(yōu)先考慮增加隱含層的結(jié)點(diǎn)數(shù)。2.3 隱

8、含層神經(jīng)元個(gè)數(shù)的選擇當(dāng)用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)網(wǎng)絡(luò)映射時(shí)，隱含層神經(jīng)元個(gè)數(shù)直接影響著神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力和歸納能力。隱含層神經(jīng)元數(shù)目較少時(shí)，網(wǎng)絡(luò)每次學(xué)習(xí)的時(shí)間較短，但有可能因?yàn)閷W(xué)習(xí)不足導(dǎo)致網(wǎng)絡(luò)無法記住全部學(xué)習(xí)內(nèi)容；隱含層神經(jīng)元數(shù)目較大時(shí)，學(xué)習(xí)能力增強(qiáng)，網(wǎng)絡(luò)每次學(xué)習(xí)的時(shí)間較長，網(wǎng)絡(luò)的存儲(chǔ)容量隨之變大，導(dǎo)致網(wǎng)絡(luò)對(duì)未知輸入的歸納能力下降，因?yàn)閷?duì)隱含層神經(jīng)元個(gè)數(shù)的選擇尚無理論上的指導(dǎo)，一般憑經(jīng)驗(yàn)確定。3 神經(jīng)網(wǎng)絡(luò)圖像識(shí)別系統(tǒng)人工神經(jīng)網(wǎng)絡(luò)方法實(shí)現(xiàn)模式識(shí)別，可處理一些環(huán)境信息十分復(fù)雜，背景知識(shí)不清楚，推理規(guī)則不明確的問題，允許樣品有較大的缺損、畸變，神經(jīng)網(wǎng)絡(luò)方法的缺點(diǎn)是其模型在不斷豐富完善中，目前能識(shí)別的模式類還不夠

9、多，神經(jīng)網(wǎng)絡(luò)方法允許樣品有較大的缺損和畸變，其運(yùn)行速度快，自適應(yīng)性能好，具有較高的分辨率。神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別系統(tǒng)是神經(jīng)網(wǎng)絡(luò)模式識(shí)別系統(tǒng)的一種，原理是一致的。一般神經(jīng)網(wǎng)絡(luò)圖像識(shí)別系統(tǒng)由預(yù)處理，特征提取和神經(jīng)網(wǎng)絡(luò)分類器組成。預(yù)處理就是將原始數(shù)據(jù)中的無用信息刪除，平滑，二值化和進(jìn)行幅度歸一化等。神經(jīng)網(wǎng)絡(luò)圖像識(shí)別系統(tǒng)中的特征提取部分不一定存在，這樣就分為兩大類： 有特征提取部分的：這一類系統(tǒng)實(shí)際上是傳統(tǒng)方法與神經(jīng)網(wǎng)絡(luò)方法技術(shù)的結(jié)合，這種方法可以充分利用人的經(jīng)驗(yàn)來獲取模式特征以及神經(jīng)網(wǎng)絡(luò)分類能力來識(shí)別目標(biāo)圖像。特征提取必須能反應(yīng)整個(gè)圖像的特征。但它的抗干擾能力不如第2類。 無特征提取部分的：省去特征抽取

10、，整副圖像直接作為神經(jīng)網(wǎng)絡(luò)的輸入，這種方式下，系統(tǒng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度大大增加了，輸入模式維數(shù)的增加導(dǎo)致了網(wǎng)絡(luò)規(guī)模的龐大。此外，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)需要完全自己消除模式變形的影響。但是網(wǎng)絡(luò)的抗干擾性能好，識(shí)別率高。本文采用無特征提取的神經(jīng)網(wǎng)絡(luò)識(shí)別方法。 當(dāng)BP 網(wǎng)用于分類時(shí)，首先要選擇各類的樣本進(jìn)行訓(xùn)練，類樣本的個(gè)數(shù)要近似相等。其原因在于一方面防止訓(xùn)練后網(wǎng)絡(luò)對(duì)樣本多的類別響應(yīng)過于敏感而對(duì)樣本數(shù)少的類別不敏感。另一方面可以大幅度提高訓(xùn)練速度，避免網(wǎng)絡(luò)陷入局部最小點(diǎn)。由于BP 網(wǎng)絡(luò)不具有不變識(shí)別的能力，所以要使網(wǎng)絡(luò)對(duì)模式的平移、旋轉(zhuǎn)、伸縮具有不變性，要盡可能選擇各種可能情況的樣本。例如要選擇不同姿態(tài)、不

11、同方位、不同角度、不同背景等有代表性的樣本，這樣可以保證網(wǎng)絡(luò)有較高的識(shí)別率。構(gòu)造神經(jīng)網(wǎng)絡(luò)分類器首先要選擇適當(dāng)?shù)木W(wǎng)絡(luò)結(jié)構(gòu)：神經(jīng)網(wǎng)絡(luò)分類器的輸入就是圖像的特征向量；神經(jīng)網(wǎng)絡(luò)分類器的輸出節(jié)點(diǎn)應(yīng)該是類別數(shù)。隱層數(shù)要選好，每層神經(jīng)元數(shù)要合適，目前有很多采用一層隱層的網(wǎng)絡(luò)結(jié)構(gòu)。然后要選擇適當(dāng)?shù)膶W(xué)習(xí)算法，這樣才會(huì)有很好的識(shí)別效果。在學(xué)習(xí)階段應(yīng)該用大量的樣本進(jìn)行訓(xùn)練學(xué)習(xí)，通過樣本的大量學(xué)習(xí)對(duì)神經(jīng)網(wǎng)絡(luò)的各層網(wǎng)絡(luò)的連接權(quán)值進(jìn)行修正，使其對(duì)樣本有正確的識(shí)別結(jié)果，這就像人記數(shù)字一樣，網(wǎng)絡(luò)中的神經(jīng)元就像是人腦細(xì)胞，權(quán)值的改變就像是人腦細(xì)胞的相互作用的改變，神經(jīng)網(wǎng)絡(luò)在樣本學(xué)習(xí)中就像人記數(shù)字一樣，學(xué)習(xí)樣本時(shí)的網(wǎng)絡(luò)權(quán)值調(diào)整就

12、相當(dāng)于人記住各個(gè)數(shù)字的形象，網(wǎng)絡(luò)權(quán)值就是網(wǎng)絡(luò)記住的內(nèi)容，網(wǎng)絡(luò)學(xué)習(xí)階段就像人由不認(rèn)識(shí)數(shù)字到認(rèn)識(shí)數(shù)字反復(fù)學(xué)習(xí)過程是一樣的。神經(jīng)網(wǎng)絡(luò)是按整個(gè)特征向量的整體來記憶圖像的，只要大多數(shù)特征符合曾學(xué)習(xí)過的樣本就可識(shí)別為同一類別，所以當(dāng)樣本存在較大噪聲時(shí)神經(jīng)網(wǎng)絡(luò)分類器仍可正確識(shí)別。在圖像識(shí)別階段，只要將圖像的點(diǎn)陣向量作為神經(jīng)網(wǎng)絡(luò)分類器的輸入，經(jīng)過網(wǎng)絡(luò)的計(jì)算，分類器的輸出就是識(shí)別結(jié)果。4 仿真實(shí)驗(yàn)4.1 實(shí)驗(yàn)對(duì)象本實(shí)驗(yàn)用MATLAB 完成了對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和圖像識(shí)別模擬。從實(shí)驗(yàn)數(shù)據(jù)庫中選擇09 這十個(gè)數(shù)字的BMP 格式的目標(biāo)圖像。圖像大小為168 像素，每個(gè)目標(biāo)圖像分別加10、20、30、40、50大小的隨機(jī)噪

13、聲，共產(chǎn)生60 個(gè)圖像樣本。將樣本分為兩個(gè)部分，一部分用于訓(xùn)練，另一部分用于測試。實(shí)驗(yàn)中用于訓(xùn)練的樣本為40個(gè)，用于測試的樣本為20 個(gè)。隨機(jī)噪聲調(diào)用函數(shù)randn(m,n)產(chǎn)生。4.2 網(wǎng)絡(luò)結(jié)構(gòu)本試驗(yàn)采用三層的BP 網(wǎng)絡(luò)，輸入層神經(jīng)元個(gè)數(shù)等于樣本圖像的象素個(gè)數(shù)168 個(gè)。隱含層選24 個(gè)神經(jīng)元，這是在試驗(yàn)中試出的較理想的隱層結(jié)點(diǎn)數(shù)。輸出層神經(jīng)元個(gè)數(shù)就是要識(shí)別的模式數(shù)目，此例中有10 個(gè)模式，所以輸出層神經(jīng)元選擇10 個(gè)，10 個(gè)神經(jīng)元與10 個(gè)模式一一對(duì)應(yīng)。4.3 基于MATLAB 語言的網(wǎng)絡(luò)訓(xùn)練與仿真建立并初始化網(wǎng)絡(luò)% =S1 = 24;% 隱層神經(jīng)元數(shù)目S1 選為24R,Q = size

14、(numdata);S2,Q = size(targets);F = numdata;P=double(F);net = newff(minmax(P),S1 S2,logsiglogsig,traingda,learngdm)這里numdata 為訓(xùn)練樣本矩陣，大小為12840， targets 為對(duì)應(yīng)的目標(biāo)輸出矩陣，大小為1040。newff(PR,S1 S2SN,TF1 TF2TFN，BTF,BLF,PF)為MATLAB 函數(shù)庫中建立一個(gè)N 層前向BP 網(wǎng)絡(luò)的函數(shù)，函數(shù)的自變量PR 表示網(wǎng)絡(luò)輸入矢量取值范圍的矩陣Pmin Pmax;S1SN 為各層神經(jīng)元的個(gè)數(shù)；TF1TFN 用于指定各層

15、神經(jīng)元的傳遞函數(shù)；BTF 用于指定網(wǎng)絡(luò)的訓(xùn)練函數(shù)；BLF 用于指定權(quán)值和閥值的學(xué)習(xí)函數(shù)；PF 用于指定網(wǎng)絡(luò)的性能函數(shù)，缺省值為mse。設(shè)置訓(xùn)練參數(shù)net.performFcn = sse; %平方和誤差性能函數(shù)net.trainParam.goal = 0.1; %平方和誤差目標(biāo)net.trainParam.show = 20; %進(jìn)程顯示頻率net.trainParam.epochs = 5000;%最大訓(xùn)練步數(shù)net.trainParam.mc = 0.95; %動(dòng)量常數(shù)網(wǎng)絡(luò)訓(xùn)練net=init(net);%初始化網(wǎng)絡(luò)net,tr = train(net,P,T);網(wǎng)絡(luò)訓(xùn)練對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行仿真D=sim(net,P);A = sim(net,B);B 為測試樣本向量集,12820 的點(diǎn)陣。D 為網(wǎng)絡(luò)對(duì)訓(xùn)練樣本的識(shí)別結(jié)果，A 為測試樣本的網(wǎng)絡(luò)識(shí)別結(jié)果。實(shí)驗(yàn)結(jié)果表明：網(wǎng)絡(luò)對(duì)訓(xùn)練樣本和對(duì)測試樣本的識(shí)別率均為100。如圖（3）為64579五個(gè)數(shù)字添加50%隨機(jī)噪聲后網(wǎng)絡(luò)的識(shí)別結(jié)果。5 結(jié) 論由實(shí)驗(yàn)可知，采用神經(jīng)網(wǎng)絡(luò)識(shí)別圖像是切實(shí)可行的，由于時(shí)間關(guān)系，目前