《神經(jīng)網(wǎng)絡(luò)控制》ppt課件

1、 按照神經(jīng)網(wǎng)絡(luò)的拓?fù)錁?gòu)造與學(xué)習(xí)算法相結(jié)合的方法可將神經(jīng)網(wǎng)絡(luò)的類型分為前饋網(wǎng)絡(luò)、競(jìng)爭(zhēng)網(wǎng)絡(luò)、反響網(wǎng)絡(luò)和隨機(jī)網(wǎng)絡(luò)四大類。4.4.1 BP神經(jīng)網(wǎng)絡(luò) 1986年，D. E. Rumelhart和J. L. McClelland提出了一種利用誤差反向傳播訓(xùn)練算法的神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱BP(Back Propagation)網(wǎng)絡(luò)，是一種有隱含層的多層前饋網(wǎng)絡(luò)，系統(tǒng)地處理了多層網(wǎng)絡(luò)中隱含單元銜接權(quán)的學(xué)習(xí)問(wèn)題。BP算法原理 BP學(xué)習(xí)算法的根本原理是梯度最速下降法，它的中心思想是調(diào)整權(quán)值使網(wǎng)絡(luò)總誤差最小。 多層網(wǎng)絡(luò)運(yùn)用BP學(xué)習(xí)算法時(shí)，實(shí)踐上包含了正向和反向傳播兩個(gè)階段。在正向傳播過(guò)程中，輸入信息從輸入層經(jīng)隱含層逐層處置

2、，并傳向輸出層，每一層神經(jīng)元的形狀只影響下一層神經(jīng)元的形狀。假設(shè)在輸出層不能得到期望輸出，那么轉(zhuǎn)入反向傳播，將誤差信號(hào)沿原來(lái)的銜接通道近回，經(jīng)過(guò)修正各層神經(jīng)元的權(quán)值，使誤差信號(hào)最小。 這種網(wǎng)絡(luò)沒(méi)有反響存在，實(shí)踐運(yùn)轉(zhuǎn)仍是單向的，所以天性將其看成是一非線性動(dòng)力學(xué)系統(tǒng)，而只是一種非線性映射關(guān)系。具有隱含層BP網(wǎng)絡(luò)的構(gòu)造如圖4-9所示。 誤差反向傳播算法的計(jì)算步驟誤差反向傳播算法的計(jì)算步驟 (1)計(jì)算一個(gè)輸出單元活性改動(dòng)時(shí)的誤差導(dǎo)數(shù)計(jì)算一個(gè)輸出單元活性改動(dòng)時(shí)的誤差導(dǎo)數(shù)EA，即實(shí)踐活性與期望，即實(shí)踐活性與期望活性的差值活性的差值 (2)計(jì)算一個(gè)單元所接受總輸入變化時(shí)的誤差導(dǎo)數(shù)計(jì)算一個(gè)單元所接受總輸入變化

3、時(shí)的誤差導(dǎo)數(shù)EI,EI實(shí)踐上等于上實(shí)踐上等于上述步驟述步驟(1)的結(jié)果乘以一個(gè)單元的總輸入變化時(shí)其輸出的變化率，即的結(jié)果乘以一個(gè)單元的總輸入變化時(shí)其輸出的變化率，即(3)計(jì)算一個(gè)與輸出單元聯(lián)接權(quán)值改動(dòng)時(shí)的誤差變化率計(jì)算一個(gè)與輸出單元聯(lián)接權(quán)值改動(dòng)時(shí)的誤差變化率EW(4)為了計(jì)算對(duì)誤差總的影響，把對(duì)各輸出單元的一切單獨(dú)影響相加為了計(jì)算對(duì)誤差總的影響，把對(duì)各輸出單元的一切單獨(dú)影響相加 運(yùn)用步驟(2)和(4)，可把一層單元的EA變成前面一層單元的EA，為了得到期望的前面各層的EA，可反復(fù)此計(jì)算步驟。當(dāng)?shù)玫揭粋€(gè)單元的EA后，可用步驟(2)和(3)來(lái)計(jì)算作用于它的輸入聯(lián)接上的EW。BP算法的計(jì)算機(jī)實(shí)現(xiàn)流程

4、 (1)初始化，對(duì)一切權(quán)值賦以隨機(jī)恣意小值，并對(duì)閾值設(shè)定初值； (2)給定訓(xùn)練數(shù)據(jù)集，即提供輸入向量 和期望輸出 ； (3)計(jì)算實(shí)踐輸出 其中， 函數(shù)為Sigmoid函數(shù)Xyyf(4)調(diào)整權(quán)值，按誤差反向傳播方向，從輸出節(jié)點(diǎn)開場(chǎng)前往到隱層按下式修正權(quán)值(5)前往第(2)步反復(fù)，直至誤差滿足要求為止。運(yùn)用BP算法應(yīng)留意的幾個(gè)問(wèn)題 (1)學(xué)習(xí)速率 的選鋒非常重要。(2)在設(shè)置各訓(xùn)練樣本的期望輸出分量時(shí)，不能設(shè)置為1或0，以設(shè)置為 0.9或0.1較為適宜。 (3)假設(shè)實(shí)踐問(wèn)題給予網(wǎng)絡(luò)的輸入量較大，需做歸一化處置，網(wǎng)絡(luò)的輸出也要進(jìn)展相應(yīng)的處置。 (4)各加權(quán)系數(shù)的初值以設(shè)置為隨機(jī)數(shù)為宜。 (5)在學(xué)習(xí)

5、過(guò)程中，應(yīng)盡量防止落入某些部分最小值點(diǎn)上，引入慣性項(xiàng)有能夠使網(wǎng)絡(luò)防止落入某一部分最小值。 4.4.2 徑向基神經(jīng)網(wǎng)絡(luò)徑向基神經(jīng)網(wǎng)絡(luò) 1985年，年，Powell提出了多變量插值的徑提出了多變量插值的徑向基函數(shù)向基函數(shù)(Radial Basis Function，RBF)方法。方法。 徑向基函數(shù)網(wǎng)絡(luò)比徑向基函數(shù)網(wǎng)絡(luò)比BP網(wǎng)絡(luò)需求更多的神網(wǎng)絡(luò)需求更多的神經(jīng)元，但是它可以按時(shí)間片來(lái)訓(xùn)練網(wǎng)絡(luò)。徑經(jīng)元，但是它可以按時(shí)間片來(lái)訓(xùn)練網(wǎng)絡(luò)。徑向基網(wǎng)絡(luò)是一種部分逼近網(wǎng)絡(luò)，已證明它能向基網(wǎng)絡(luò)是一種部分逼近網(wǎng)絡(luò)，已證明它能以恣意精度逼近任一延續(xù)函數(shù)。以恣意精度逼近任一延續(xù)函數(shù)。 構(gòu)成構(gòu)成RBF網(wǎng)絡(luò)的根本思想：用網(wǎng)絡(luò)的

6、根本思想：用RBF作為作為隱單元的隱單元的“基構(gòu)成隱含層空間，這樣就可基構(gòu)成隱含層空間，這樣就可將輸入矢量直接將輸入矢量直接(即不經(jīng)過(guò)權(quán)銜接即不經(jīng)過(guò)權(quán)銜接)映射到隱映射到隱空間。當(dāng)空間。當(dāng)RBF的中心點(diǎn)確定以后，這種映射的中心點(diǎn)確定以后，這種映射關(guān)系也就確定了。而隱含層空間到輸出空間關(guān)系也就確定了。而隱含層空間到輸出空間的映射是線性的，即網(wǎng)絡(luò)的輸出是隱單元輸?shù)挠成涫蔷€性的，即網(wǎng)絡(luò)的輸出是隱單元輸出的線性加權(quán)和。此處的權(quán)即為網(wǎng)絡(luò)可調(diào)參出的線性加權(quán)和。此處的權(quán)即為網(wǎng)絡(luò)可調(diào)參數(shù)。數(shù)。徑向基函數(shù)網(wǎng)絡(luò)模型徑向基函數(shù)網(wǎng)絡(luò)模型 RBF網(wǎng)絡(luò)由兩層組成，其構(gòu)造如圖網(wǎng)絡(luò)由兩層組成，其構(gòu)造如圖4-10所示。所示。輸

7、入層節(jié)點(diǎn)只是傳送輸入信號(hào)到隱含層，隱含層節(jié)點(diǎn)由像高斯核函數(shù)輸入層節(jié)點(diǎn)只是傳送輸入信號(hào)到隱含層，隱含層節(jié)點(diǎn)由像高斯核函數(shù)那樣的輻射狀作用函數(shù)構(gòu)成，而輸出層節(jié)點(diǎn)通常是簡(jiǎn)單的線性函數(shù)。隱那樣的輻射狀作用函數(shù)構(gòu)成，而輸出層節(jié)點(diǎn)通常是簡(jiǎn)單的線性函數(shù)。隱含層節(jié)點(diǎn)中的作用函數(shù)含層節(jié)點(diǎn)中的作用函數(shù)(核函數(shù)核函數(shù))對(duì)輸入信號(hào)將在部分產(chǎn)生呼應(yīng)。對(duì)輸入信號(hào)將在部分產(chǎn)生呼應(yīng)。 網(wǎng)絡(luò)輸出網(wǎng)絡(luò)輸出 RBF網(wǎng)絡(luò)的輸入層到隱含層實(shí)現(xiàn)網(wǎng)絡(luò)的輸入層到隱含層實(shí)現(xiàn) 的非線性映射，徑向的非線性映射，徑向基網(wǎng)絡(luò)隱含層節(jié)點(diǎn)的作用函數(shù)普通取以下幾種方式基網(wǎng)絡(luò)隱含層節(jié)點(diǎn)的作用函數(shù)普通取以下幾種方式 最常用的是高斯激活函數(shù)最常用的是高斯激活函數(shù)

8、 采用高斯基函數(shù)，具備如下優(yōu)點(diǎn)：采用高斯基函數(shù)，具備如下優(yōu)點(diǎn)：(1)表示方式簡(jiǎn)單，即使對(duì)于多變量輸入也不添加太多的復(fù)改性；表示方式簡(jiǎn)單，即使對(duì)于多變量輸入也不添加太多的復(fù)改性；(2)徑向?qū)ΨQ；徑向?qū)ΨQ；(3)光滑性好，恣意階導(dǎo)數(shù)存在；光滑性好，恣意階導(dǎo)數(shù)存在；(4)由于該基函數(shù)表示簡(jiǎn)單且解析性好，因此使于進(jìn)展實(shí)際分析。由于該基函數(shù)表示簡(jiǎn)單且解析性好，因此使于進(jìn)展實(shí)際分析。)(xuxi 思索到提高網(wǎng)絡(luò)精度和減少隱含層節(jié)點(diǎn)數(shù)，也可以將網(wǎng)絡(luò)激活函數(shù)改成多變量正態(tài)密度函數(shù) 式中， 是輸入?yún)f(xié)方差陣的逆。 RBF網(wǎng)絡(luò)的隱含層到輸出層實(shí)現(xiàn) 的線性映射，即式中， 是隱含層第 個(gè)節(jié)點(diǎn)的輸出； 是輸出層第 個(gè)節(jié)點(diǎn)

9、的輸出； 是隱含層到輸出層的加權(quán)系數(shù)； 是輸出層的閥值； 是隱含層節(jié)點(diǎn)數(shù)。 )()(1iTicxcxEKkiyxu)(iuikykkiwkqRBF網(wǎng)絡(luò)助學(xué)習(xí)過(guò)程網(wǎng)絡(luò)助學(xué)習(xí)過(guò)程 RBF網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程分為兩個(gè)階段。第一階段是無(wú)教師學(xué)習(xí)；第網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程分為兩個(gè)階段。第一階段是無(wú)教師學(xué)習(xí)；第二階段是有教師學(xué)習(xí)。二階段是有教師學(xué)習(xí)。(1)無(wú)教師學(xué)習(xí)階段無(wú)教師學(xué)習(xí)階段(a)給定各隱節(jié)點(diǎn)的初始中心向量給定各隱節(jié)點(diǎn)的初始中心向量 和斷定停頓計(jì)算的和斷定停頓計(jì)算的(b)計(jì)算間隔計(jì)算間隔(歐氏間隔歐氏間隔)并求出最小間隔的節(jié)點(diǎn)；并求出最小間隔的節(jié)點(diǎn)；(c)調(diào)整中心調(diào)整中心(d)斷定聚類質(zhì)量斷定聚類質(zhì)量對(duì)于全部樣

10、本對(duì)于全部樣本 反復(fù)進(jìn)展以上反復(fù)進(jìn)展以上(b)，(c)步，直至滿足以上條件。步，直至滿足以上條件。 )0(ick(2)有教師學(xué)習(xí)階段有教師學(xué)習(xí)階段 有教師學(xué)習(xí)也稱為有監(jiān)視學(xué)習(xí)。當(dāng)有教師學(xué)習(xí)也稱為有監(jiān)視學(xué)習(xí)。當(dāng) 確定以后，訓(xùn)練由隱含層至確定以后，訓(xùn)練由隱含層至輸出層之間的權(quán)值，由上可知，它是一個(gè)線性方程組，那么求權(quán)值就成輸出層之間的權(quán)值，由上可知，它是一個(gè)線性方程組，那么求權(quán)值就成為線性優(yōu)化問(wèn)題。為線性優(yōu)化問(wèn)題。 隱含層至輸出層之間的銜接權(quán)值隱含層至輸出層之間的銜接權(quán)值 學(xué)習(xí)算法為學(xué)習(xí)算法為式中，式中， ， 為高斯函數(shù)。為高斯函數(shù)。ickiwT21)()()(xuxuxuuq)(xui RBF網(wǎng)

11、絡(luò)有關(guān)的幾個(gè)問(wèn)題 (1)從實(shí)際上而言，RBF網(wǎng)絡(luò)和BP網(wǎng)絡(luò)一樣可近似任何延續(xù)非線性函數(shù)。(2)已證明RBF網(wǎng)絡(luò)具有獨(dú)一最正確通近的特性，且無(wú)部分極小。(3)求RBF網(wǎng)絡(luò)隱節(jié)點(diǎn)的中心向量 和規(guī)范化常數(shù) 是一個(gè)困難的問(wèn)題。(4)徑向基函數(shù)，即徑向?qū)ΨQ函數(shù)有多種。(5)RBF網(wǎng)絡(luò)雖具有獨(dú)一最正確逼近的特性以及無(wú)部分極小的優(yōu)點(diǎn)，但隱節(jié)點(diǎn)的中心難求，這是該網(wǎng)絡(luò)難以廣泛運(yùn)用的緣由。(6) RBF網(wǎng)絡(luò)學(xué)習(xí)速度很快，適于在線實(shí)時(shí)控制。 ici4.4.3 典型反響網(wǎng)絡(luò)典型反響網(wǎng)絡(luò)Hopfield網(wǎng)絡(luò)網(wǎng)絡(luò) 美國(guó)物理學(xué)家美國(guó)物理學(xué)家Hopfield在在1982年首先提年首先提出了一種由非線性元件出了一種由非線性元件

12、構(gòu)成的單層反響網(wǎng)絡(luò)系構(gòu)成的單層反響網(wǎng)絡(luò)系統(tǒng)，稱這種單層反響網(wǎng)統(tǒng)，稱這種單層反響網(wǎng)絡(luò)為絡(luò)為Hopfield網(wǎng)絡(luò)。網(wǎng)絡(luò)。 Hopfield網(wǎng)絡(luò)模型網(wǎng)絡(luò)模型 Hopfield網(wǎng)絡(luò)的拓?fù)渚W(wǎng)絡(luò)的拓?fù)錁?gòu)造可看作全銜接加權(quán)構(gòu)造可看作全銜接加權(quán)無(wú)向圖，它是一種網(wǎng)狀無(wú)向圖，它是一種網(wǎng)狀網(wǎng)絡(luò)，可分為離散和延網(wǎng)絡(luò)，可分為離散和延續(xù)兩種類型。離散網(wǎng)絡(luò)續(xù)兩種類型。離散網(wǎng)絡(luò)的節(jié)點(diǎn)僅取的節(jié)點(diǎn)僅取+1和和-1(或或0和和1)兩個(gè)值，而延續(xù)網(wǎng)兩個(gè)值，而延續(xù)網(wǎng)絡(luò)取絡(luò)取0和和1之間任一實(shí)數(shù)。之間任一實(shí)數(shù)。圖圖4-11給出給出Hopfield網(wǎng)絡(luò)網(wǎng)絡(luò)的一種構(gòu)造方式。的一種構(gòu)造方式。 設(shè)此網(wǎng)絡(luò)含有 個(gè)神經(jīng)元，神經(jīng)元 的形狀 取0或1，

13、各神經(jīng)元按以下規(guī)那么隨機(jī)地、異步地改動(dòng)形狀 Hopfield網(wǎng)絡(luò)模型的根本原理：只需由神經(jīng)元興奮的算法和聯(lián)接權(quán)系數(shù)所決議的神經(jīng)網(wǎng)絡(luò)的形狀，在適當(dāng)給定的興奮方式下尚未到達(dá)穩(wěn)定形狀，那么該形狀就會(huì)不斷變化下去，直到預(yù)先定義的一個(gè)必定減小的能量函數(shù)到達(dá)極小值時(shí)，形狀才到達(dá)穩(wěn)定而不再變化。 niiSHopfield網(wǎng)絡(luò)的聯(lián)想記憶功能網(wǎng)絡(luò)的聯(lián)想記憶功能 Hopfield網(wǎng)絡(luò)的聯(lián)想記憶過(guò)程，從動(dòng)力學(xué)的角度就是非線性動(dòng)力網(wǎng)絡(luò)的聯(lián)想記憶過(guò)程，從動(dòng)力學(xué)的角度就是非線性動(dòng)力學(xué)系統(tǒng)朝著某個(gè)穩(wěn)定形狀運(yùn)轉(zhuǎn)的過(guò)程，這一過(guò)程可分為學(xué)習(xí)和聯(lián)想兩個(gè)學(xué)系統(tǒng)朝著某個(gè)穩(wěn)定形狀運(yùn)轉(zhuǎn)的過(guò)程，這一過(guò)程可分為學(xué)習(xí)和聯(lián)想兩個(gè)階段。階段。 在給

14、定樣本的條件下，按照在給定樣本的條件下，按照Hebb學(xué)習(xí)規(guī)那么，調(diào)整聯(lián)接權(quán)值，使學(xué)習(xí)規(guī)那么，調(diào)整聯(lián)接權(quán)值，使得存儲(chǔ)的樣本成為動(dòng)力學(xué)的吸引子，這個(gè)過(guò)程就是學(xué)習(xí)階段。而聯(lián)想是得存儲(chǔ)的樣本成為動(dòng)力學(xué)的吸引子，這個(gè)過(guò)程就是學(xué)習(xí)階段。而聯(lián)想是指在已調(diào)整好權(quán)值不變的情況下，給出部分不全或受了干擾的信息，按指在已調(diào)整好權(quán)值不變的情況下，給出部分不全或受了干擾的信息，按照動(dòng)力學(xué)規(guī)那么改動(dòng)神經(jīng)元的形狀，使系統(tǒng)最終變到動(dòng)力學(xué)的吸引子。照動(dòng)力學(xué)規(guī)那么改動(dòng)神經(jīng)元的形狀，使系統(tǒng)最終變到動(dòng)力學(xué)的吸引子。即指收斂于某一點(diǎn)，或周期性迭代即指收斂于某一點(diǎn)，或周期性迭代(極限環(huán)極限環(huán))，或處于混沌形狀。，或處于混沌形狀。下面給出

15、Hopfield網(wǎng)絡(luò)用于聯(lián)想記憶的學(xué)習(xí)算法，本算法取偏流I為零。(1)按照Hebb規(guī)那么設(shè)置權(quán)值(2)對(duì)未知樣本初始化(3)迭代計(jì)算直至節(jié)點(diǎn)輸出形狀不改動(dòng)時(shí)，迭代終了。此時(shí)節(jié)點(diǎn)的輸出形狀即為未知輸入最正確匹配的樣本。(4)前往(2)繼續(xù)迭代。 Hopfieid網(wǎng)絡(luò)的優(yōu)化計(jì)算功能網(wǎng)絡(luò)的優(yōu)化計(jì)算功能 Hopfield網(wǎng)絡(luò)實(shí)際的中心思想以為，網(wǎng)絡(luò)從高能形狀轉(zhuǎn)移到最小網(wǎng)絡(luò)實(shí)際的中心思想以為，網(wǎng)絡(luò)從高能形狀轉(zhuǎn)移到最小能量形狀，那么到達(dá)收斂，獲得穩(wěn)定的解，完成網(wǎng)絡(luò)功能。能量形狀，那么到達(dá)收斂，獲得穩(wěn)定的解，完成網(wǎng)絡(luò)功能。Hopfield網(wǎng)網(wǎng)絡(luò)所構(gòu)成的動(dòng)力學(xué)系統(tǒng)與固體物理學(xué)模型自旋玻璃類似，可用二次能量絡(luò)所

16、構(gòu)成的動(dòng)力學(xué)系統(tǒng)與固體物理學(xué)模型自旋玻璃類似，可用二次能量函數(shù)來(lái)描畫系統(tǒng)的形狀，系統(tǒng)從高能形狀到低能的穩(wěn)定形狀的變化過(guò)程，函數(shù)來(lái)描畫系統(tǒng)的形狀，系統(tǒng)從高能形狀到低能的穩(wěn)定形狀的變化過(guò)程，類似于滿足約束問(wèn)題的搜索最優(yōu)解的過(guò)程。類似于滿足約束問(wèn)題的搜索最優(yōu)解的過(guò)程。 因此，因此，Hopfield網(wǎng)絡(luò)可用于優(yōu)化問(wèn)題的計(jì)算。網(wǎng)絡(luò)可用于優(yōu)化問(wèn)題的計(jì)算。Hopfield網(wǎng)絡(luò)用于優(yōu)網(wǎng)絡(luò)用于優(yōu)化問(wèn)題的計(jì)算與用于聯(lián)想記憶的計(jì)算過(guò)程是對(duì)偶的。在處理優(yōu)化問(wèn)題時(shí)，化問(wèn)題的計(jì)算與用于聯(lián)想記憶的計(jì)算過(guò)程是對(duì)偶的。在處理優(yōu)化問(wèn)題時(shí)，權(quán)矩陣權(quán)矩陣W知，目的是求取最大能量正的穩(wěn)定形狀。為此，必需將待優(yōu)化知，目的是求取最大能量正

17、的穩(wěn)定形狀。為此，必需將待優(yōu)化的問(wèn)題映射到網(wǎng)絡(luò)的相應(yīng)于優(yōu)化問(wèn)題能夠解的特定組態(tài)上，再構(gòu)造一待的問(wèn)題映射到網(wǎng)絡(luò)的相應(yīng)于優(yōu)化問(wèn)題能夠解的特定組態(tài)上，再構(gòu)造一待優(yōu)化問(wèn)題的能量函數(shù)，它應(yīng)和優(yōu)化問(wèn)題中的二次型代價(jià)函數(shù)成正比例。優(yōu)化問(wèn)題的能量函數(shù)，它應(yīng)和優(yōu)化問(wèn)題中的二次型代價(jià)函數(shù)成正比例。 4.4.4 小腦模型關(guān)聯(lián)控制器小腦模型關(guān)聯(lián)控制器CMAC網(wǎng)絡(luò)網(wǎng)絡(luò) 1975年，年，Albus根據(jù)神經(jīng)生理學(xué)小腦皮根據(jù)神經(jīng)生理學(xué)小腦皮層構(gòu)造特點(diǎn)，提出了一種小腦模型關(guān)聯(lián)控制層構(gòu)造特點(diǎn)，提出了一種小腦模型關(guān)聯(lián)控制器器(Cerebellum Model Articulation Controller)，簡(jiǎn)記為，簡(jiǎn)記為CMAC網(wǎng)絡(luò)。經(jīng)過(guò)多年網(wǎng)絡(luò)。經(jīng)過(guò)多年的研討，其中包括的研討，其中包括Miller、Tolle、Ersu及及Parks等人出色的任務(wù)，目前它已被公以為等人出色的任務(wù)，目前它已被公以為是一類聯(lián)想記憶網(wǎng)絡(luò)是一類聯(lián)想記憶網(wǎng)絡(luò)(ANN)的重要組成部分。的重要組成部分。 CMAC網(wǎng)絡(luò)的任務(wù)原理網(wǎng)絡(luò)的任務(wù)原理