北京交通大學(xué)研究生課程(神經(jīng)網(wǎng)絡(luò)、模糊控制及專家系統(tǒng))第六章

1、研究生課程研究生課程一、神經(jīng)網(wǎng)絡(luò)控制的優(yōu)越性二、神經(jīng)網(wǎng)絡(luò)控制器的分類三、神經(jīng)網(wǎng)絡(luò)的逼近能力基于專家經(jīng)驗(yàn)和領(lǐng)域知識(shí)總結(jié)出若干條模糊控制規(guī)則，構(gòu)成描述具有不確定性、復(fù)雜對(duì)象的模糊關(guān)系，通過(guò)被控系統(tǒng)輸出誤差及誤差變化和模糊關(guān)系的推理合成獲得控制量，從而對(duì)系統(tǒng)進(jìn)行控制。一、神經(jīng)網(wǎng)絡(luò)控制的優(yōu)越性是根據(jù)被控對(duì)象的數(shù)學(xué)模型及對(duì)控制系統(tǒng)要求的性能指標(biāo)來(lái)設(shè)計(jì)控制器，并對(duì)控制規(guī)律加以數(shù)學(xué)解析描述。具有很強(qiáng)的逼近非線性函數(shù)的能力，即非線性映射能力，神經(jīng)網(wǎng)絡(luò)用于控制正是利用這個(gè)獨(dú)特的優(yōu)點(diǎn)。傳統(tǒng)的基于模型的控制方式模糊控制神經(jīng)網(wǎng)絡(luò)控制一、神經(jīng)網(wǎng)絡(luò)控制的優(yōu)越性1. 神經(jīng)網(wǎng)絡(luò)可以處理那些難以用模型或規(guī)則描述的過(guò)程或系統(tǒng)。2

2、. 神經(jīng)網(wǎng)絡(luò)采用并行分布式信息處理方式，具有很強(qiáng)的容錯(cuò)性。3. 神經(jīng)網(wǎng)絡(luò)是本質(zhì)的非線性系統(tǒng)。4. 神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的信息綜合能力。5. 神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn)愈趨方便。（1） 優(yōu)越性一、神經(jīng)網(wǎng)絡(luò)控制的優(yōu)越性1.在反饋控制系統(tǒng)中充當(dāng)控制器的作用；2.在基于精確模型的各種控制結(jié)構(gòu)中充當(dāng)對(duì)象的模型；3.在傳統(tǒng)控制系統(tǒng)中起優(yōu)化計(jì)算作用；4.在與其它智能控制方法和優(yōu)化算法如模糊控制、專家控制及遺傳算法相融合中，為其提供非參數(shù)化對(duì)象模型、優(yōu)化參數(shù)、推理模型及故障診斷等。（2） 在控制中的主要作用按照神經(jīng)網(wǎng)絡(luò)在控制器中的作用不同一般分為兩類：1.一類稱神經(jīng)網(wǎng)絡(luò)控制，它是以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)而形成的獨(dú)立智能控制系統(tǒng)。

3、2.另一類稱為混合神經(jīng)網(wǎng)絡(luò)控制，它代表著那些利用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)和優(yōu)化能力來(lái)改善傳統(tǒng)控制的現(xiàn)代控制方法。二、神經(jīng)網(wǎng)絡(luò)控制器的分類 1234567一些典型的神經(jīng)網(wǎng)絡(luò)的控制結(jié)構(gòu)和學(xué)習(xí)方式可歸結(jié)為七類：導(dǎo)師指導(dǎo)下的控制器逆控制器自適應(yīng)網(wǎng)絡(luò)控制器神經(jīng)內(nèi)模控制結(jié)構(gòu)前饋控制結(jié)構(gòu)自適應(yīng)評(píng)價(jià)函數(shù)混合控制系統(tǒng)二、神經(jīng)網(wǎng)絡(luò)控制器的分類二、神經(jīng)網(wǎng)絡(luò)控制器的分類 1 導(dǎo)師指導(dǎo)下的控制器神經(jīng)網(wǎng)絡(luò)的輸入信號(hào)來(lái)自傳感器的信息和命令信號(hào)，神經(jīng)網(wǎng)絡(luò)的輸出就是系統(tǒng)的控制信號(hào)。一旦神經(jīng)網(wǎng)絡(luò)的訓(xùn)練達(dá)到了能夠充分描述人的控制行為，則網(wǎng)絡(luò)訓(xùn)練結(jié)束。神經(jīng)網(wǎng)絡(luò)控制器就可以直接投入實(shí)際系統(tǒng)的控制。專家經(jīng)驗(yàn)控制器動(dòng)力學(xué)系統(tǒng)神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)系統(tǒng)利用專家

4、經(jīng)驗(yàn)XUYXUY圖 5-1 導(dǎo)師指導(dǎo)下的神經(jīng)控制結(jié)構(gòu)圖二、神經(jīng)網(wǎng)絡(luò)控制器的分類 2,1,1,1,y tu ty tF u ty tFFu ty ty tu tH y ty tHF逆控制器設(shè)系統(tǒng)的狀態(tài)觀測(cè)值為，它與控制信號(hào)的關(guān)系為：可能是未知的，假設(shè)是可逆的，即可從求出，通過(guò)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)響應(yīng)為：即為的逆動(dòng)態(tài)。一旦訓(xùn)練成功 從理論上看只要直接把神經(jīng)網(wǎng)絡(luò)控制器接到動(dòng)力學(xué)系統(tǒng)的控制端，就可以實(shí)現(xiàn)無(wú)差跟蹤控制。二、神經(jīng)網(wǎng)絡(luò)控制器的分類 2 逆控制器圖5-2 逆控制器的結(jié)構(gòu)圖動(dòng)力學(xué)系統(tǒng)神經(jīng)網(wǎng)絡(luò)動(dòng)力學(xué)系統(tǒng)YYdYdY1FUUYFU二、神經(jīng)網(wǎng)絡(luò)控制器的分類 3 自適應(yīng)網(wǎng)絡(luò)控制器自適應(yīng)控制系統(tǒng)要求控制器能

5、夠隨著系統(tǒng)環(huán)境或參數(shù)的變化而對(duì)控制器進(jìn)行調(diào)節(jié)以便達(dá)到最優(yōu)控制的特性。圖5-3 自適應(yīng)網(wǎng)絡(luò)控制器結(jié)構(gòu)圖參考模型網(wǎng)絡(luò)控制器神經(jīng)網(wǎng)絡(luò)非線性系統(tǒng)rcecNumypy1ecepyiN二、神經(jīng)網(wǎng)絡(luò)控制器的分類 4M神經(jīng)內(nèi)模控制結(jié)構(gòu)用一個(gè)神經(jīng)網(wǎng)絡(luò)作為模型狀態(tài)估計(jì)器，另一個(gè)神經(jīng)網(wǎng)絡(luò)作為控制器，被控系統(tǒng)的實(shí)際輸出與模型的輸出信號(hào)差用于反饋的目的。神經(jīng)網(wǎng)絡(luò)控制器C非線性系統(tǒng)神經(jīng)網(wǎng)絡(luò)模型 MdYGrUY圖5-4 神經(jīng)網(wǎng)絡(luò)內(nèi)模控制結(jié)構(gòu)圖二、神經(jīng)網(wǎng)絡(luò)控制器的分類 5 前饋控制結(jié)構(gòu)單純的求逆控制結(jié)構(gòu)不能很好地起到抗干擾能力，因此結(jié)合反饋控制的思想組成前饋補(bǔ)償器的網(wǎng)絡(luò)控制結(jié)構(gòu)。圖5-5 前饋補(bǔ)償控制結(jié)構(gòu)圖神經(jīng)網(wǎng)絡(luò)非線性系統(tǒng)

6、反饋控制ruy 6 自適應(yīng)評(píng)價(jià)函數(shù)整個(gè)學(xué)習(xí)系統(tǒng)由一個(gè)相關(guān)的搜索單元和一個(gè)自適應(yīng)評(píng)價(jià)單元組成。在這個(gè)算法中，相關(guān)搜索單元是作用函數(shù)，自適應(yīng)評(píng)價(jià)單元為評(píng)價(jià)網(wǎng)絡(luò)。二、神經(jīng)網(wǎng)絡(luò)控制器的分類圖5-6 自適應(yīng)評(píng)價(jià)網(wǎng)絡(luò)結(jié)構(gòu)圖評(píng)價(jià)網(wǎng)作用網(wǎng)(1)x t ( )x t(1)j t ( )u t二、神經(jīng)網(wǎng)絡(luò)控制器的分類 7 混合控制系統(tǒng)是由神經(jīng)網(wǎng)絡(luò)技術(shù)與模糊控制、專家系統(tǒng)等相結(jié)合形成的一種具有很強(qiáng)學(xué)習(xí)能力的智能控制系統(tǒng)，它集人工智能各分支的優(yōu)點(diǎn)，使系統(tǒng)同時(shí)具有學(xué)習(xí)、推理和決策能力，成為智能控制的最新發(fā)展方向。一、神經(jīng)網(wǎng)絡(luò)的辨識(shí)基礎(chǔ)二、神經(jīng)網(wǎng)絡(luò)辨識(shí)模型的結(jié)構(gòu)三、非線性動(dòng)態(tài)系統(tǒng)的神經(jīng)網(wǎng)絡(luò)辨識(shí)一、神經(jīng)網(wǎng)絡(luò)的辨識(shí)基礎(chǔ) 所謂

7、辨識(shí)，是在輸入和輸出數(shù)據(jù)的基礎(chǔ)上，從一組給定的模型中，確定一個(gè)與所測(cè)系統(tǒng)等價(jià)的模型。 三個(gè)要素：1. 輸入/輸出數(shù)據(jù)指能夠量測(cè)到的系統(tǒng)的輸入/輸出。2. 模型類指所考慮的系統(tǒng)的結(jié)構(gòu)。3. 等價(jià)準(zhǔn)則指辨識(shí)的優(yōu)化目標(biāo)。一、神經(jīng)網(wǎng)絡(luò)的辨識(shí)基礎(chǔ) 神經(jīng)網(wǎng)絡(luò)系統(tǒng)本質(zhì)上是一種非線性映射，它可以從某一輸入空間通過(guò)網(wǎng)絡(luò)變換，映射到輸出空間。因此，訓(xùn)練神經(jīng)網(wǎng)絡(luò)的過(guò)程是非線性函數(shù)的逼近過(guò)程。多層前向傳播網(wǎng)絡(luò)能夠逼近 空間上的任意非線性函數(shù)。關(guān)鍵在于如何確定隱含層和隱含激勵(lì)神經(jīng)元的個(gè)數(shù)。 需要考慮的三大因素：1. 模型的選擇2. 輸入信號(hào)的選擇3. 誤差準(zhǔn)則的選擇持續(xù)激勵(lì)信號(hào)，充分激勵(lì)持續(xù)激勵(lì)信號(hào)，充分激勵(lì)足以覆蓋系

8、統(tǒng)的頻譜足以覆蓋系統(tǒng)的頻譜精確性和復(fù)雜精確性和復(fù)雜性的折衷性的折衷2L2()( ( ) ( )( )kE Wf e kf e ke k誤差的泛函一、神經(jīng)網(wǎng)絡(luò)的辨識(shí)基礎(chǔ) 神經(jīng)網(wǎng)絡(luò)的辨識(shí)在確定上述三大要素之后就歸結(jié)為一個(gè)最優(yōu)化問(wèn)題。它不是傳統(tǒng)的參數(shù)估計(jì)問(wèn)題，有五個(gè)特點(diǎn)：5) 作為實(shí)際系統(tǒng)的辨識(shí)模型,是一個(gè)物理實(shí)現(xiàn),可在線控制.1）不要求建立實(shí)際系統(tǒng)的辨識(shí)格式.2）可以對(duì)本質(zhì)非線性系統(tǒng)進(jìn)行辨識(shí)，是通過(guò)網(wǎng)絡(luò)外部的輸入/輸出來(lái)擬合系統(tǒng)的輸入/輸出.4) 神經(jīng)網(wǎng)絡(luò)有大量連接權(quán),通過(guò)調(diào)節(jié)權(quán)值逼近系統(tǒng)輸出.3) 辨識(shí)的收斂速度不依賴于待辨識(shí)系統(tǒng)的維數(shù),只與算法有關(guān).二、神經(jīng)網(wǎng)絡(luò)的辨識(shí)模型的結(jié)構(gòu)前向建模：利用神

9、經(jīng)網(wǎng)絡(luò)來(lái)逼近非線性系統(tǒng)的前向動(dòng)力學(xué)模型。神經(jīng)網(wǎng)絡(luò)模型在結(jié)構(gòu)上與實(shí)際系統(tǒng)并行。 (1) ( ), (1), ( ), (1), (1)(1) ( ), (1), ( ), (1)NNy kf y ky knu k u ku kmykf y ky knu ku kmyf考慮這樣一類非線性離散動(dòng)態(tài)系統(tǒng)：同樣，選擇神經(jīng)網(wǎng)絡(luò)的輸入輸出結(jié)構(gòu)與系統(tǒng)的結(jié)構(gòu)一致，即：其中為神經(jīng)網(wǎng)絡(luò)的輸出， 為神經(jīng)網(wǎng)絡(luò)的輸入輸出非線性映射。前向建模 逆模型法二、神經(jīng)網(wǎng)絡(luò)的辨識(shí)模型的結(jié)構(gòu)圖5-8 前向建模示意圖TDLTDL非線性系統(tǒng)神經(jīng)網(wǎng)絡(luò) N學(xué)習(xí)規(guī)則TDLudNyy二、神經(jīng)網(wǎng)絡(luò)的辨識(shí)模型的結(jié)構(gòu)逆模型建立的最直接的方法是將系輸出作

10、為網(wǎng)絡(luò)輸入，將網(wǎng)絡(luò)輸出與期望輸出即系統(tǒng)的輸入進(jìn)行比較得到的誤差作為此神經(jīng)網(wǎng)絡(luò)訓(xùn)練的信號(hào)。圖5-9 逆模型直接法示意圖TDL神經(jīng)網(wǎng)絡(luò) N非線性系統(tǒng)學(xué)習(xí)規(guī)則TDLNyuy二、神經(jīng)網(wǎng)絡(luò)的辨識(shí)模型的結(jié)構(gòu)1.學(xué)習(xí)過(guò)程不一定是目標(biāo)最優(yōu)的。適當(dāng)在穩(wěn)態(tài)下加入一個(gè)小信號(hào)的隨機(jī)輸入信號(hào)；或者采用如圖的逆模型建模結(jié)構(gòu)。即逆模型的輸入遍及整個(gè)系統(tǒng)的輸入空間。2. 一旦非線性系統(tǒng)的對(duì)應(yīng)關(guān)系不是一對(duì)一的，那么不準(zhǔn)確的逆模型可能會(huì)被建立。缺陷：圖5-10 實(shí)用逆模型建模示意圖神經(jīng)網(wǎng)絡(luò)辨識(shí)器的期望輸出值和系統(tǒng)實(shí)際值應(yīng)該是一致的，因此樣本信息是已知的。神經(jīng)網(wǎng)絡(luò)控制器的樣本是系統(tǒng)的最佳控制量，是未知的。監(jiān)督式學(xué)習(xí)：有導(dǎo)師指導(dǎo)下的

11、控制網(wǎng)絡(luò)學(xué)習(xí)。包括離線學(xué)習(xí)法、在線學(xué)習(xí)法、反饋誤差學(xué)習(xí)法、多網(wǎng)絡(luò)學(xué)習(xí)法。 增強(qiáng)式學(xué)習(xí)：無(wú)導(dǎo)師指導(dǎo)下的學(xué)習(xí)模式。通過(guò)某一評(píng)價(jià)函數(shù)來(lái)對(duì)網(wǎng)絡(luò)的權(quán)系數(shù)進(jìn)行學(xué)習(xí)和更新，最終達(dá)到有效控制的目的。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法就是尋找一種有效的途徑進(jìn)行網(wǎng)絡(luò)連接權(quán)陣或網(wǎng)絡(luò)結(jié)構(gòu)的修改，從而使得網(wǎng)絡(luò)控制器輸出的控制信號(hào)能夠保證系統(tǒng)輸出跟隨系統(tǒng)的期望輸出。離線學(xué)習(xí)法dyy缺點(diǎn)：不能保證系統(tǒng)最終性能的平方誤差極小。圖5-20 離線學(xué)習(xí)法建立ucu學(xué)習(xí)目的: 要求 和 的平方誤差為最小。一個(gè)系統(tǒng)的逆模型一批樣本輸入輸出數(shù)據(jù)非線性系統(tǒng) cN神經(jīng)網(wǎng)絡(luò)uyCu在線學(xué)習(xí)法圖5-21 在線學(xué)習(xí)法duyy目的：找出一個(gè)最優(yōu)控制量 使得系統(tǒng)輸

12、出 趨于期望輸出。缺點(diǎn)：一旦系統(tǒng)模型發(fā)生變化，且這種變化未知時(shí)，會(huì)導(dǎo)致控制軌跡偏離期望軌跡。非線性系統(tǒng)神經(jīng)網(wǎng)絡(luò)cNdyuydyy權(quán)值調(diào)整應(yīng)該使得的誤差減小的最快。21( )( )2(1)( )( )( )( )( )( )( )( )( )( )( )( )( )pdpjijijijidjijidjiy= f(u,t)Eyky kEwkwkwy kwkyky kwky ku kwkyky ku kwk假設(shè)非線性系統(tǒng)模型為：選用控制器網(wǎng)絡(luò)為多層感知器神經(jīng)元網(wǎng)絡(luò)。取最優(yōu)性能指標(biāo)函數(shù)為則權(quán)陣的學(xué)習(xí)規(guī)則可以通過(guò)梯度尋優(yōu)法來(lái)求得，即利用廣義Delta規(guī)則來(lái)計(jì)算若系統(tǒng)模型已知，則可以通過(guò)Jacobian矩

13、陣求出在線學(xué)習(xí)法反饋誤差學(xué)習(xí)法控制系統(tǒng)的結(jié)構(gòu)由前饋控制器和反饋控制器兩部分組成。缺點(diǎn)：直接使用系統(tǒng)的誤差信號(hào)去更新控制網(wǎng)絡(luò)的權(quán)矩陣，而忽略了非線性系統(tǒng)本身的動(dòng)態(tài)性能，因此可能導(dǎo)致學(xué)習(xí)算法的發(fā)散現(xiàn)象。圖5-22 反饋誤差學(xué)習(xí)結(jié)構(gòu)非線性系統(tǒng)固定增益控制器dyuycN神經(jīng)網(wǎng)絡(luò)多網(wǎng)絡(luò)學(xué)習(xí)法利用神經(jīng)網(wǎng)絡(luò)辨識(shí)的手段在線識(shí)別出未知系統(tǒng)的動(dòng)態(tài)模型，并利用此模型進(jìn)行神經(jīng)網(wǎng)絡(luò)控制的設(shè)計(jì)和學(xué)習(xí)，且在學(xué)習(xí)過(guò)程中進(jìn)一步改善模型的精確性，達(dá)到高精度的控制目的。兩種方法：1. 建立未知非線性動(dòng)態(tài)系統(tǒng)的前向模型。2. 建立未知非線性動(dòng)態(tài)系統(tǒng)的逆模型。多網(wǎng)絡(luò)學(xué)習(xí)法1. 建立未知非線性動(dòng)態(tài)系統(tǒng)的前向模型。圖5-23 前向建模多網(wǎng)

14、絡(luò)控制結(jié)構(gòu)圖u非線性系統(tǒng)dyycN神經(jīng)網(wǎng)絡(luò)控制器神經(jīng)網(wǎng)絡(luò)辨識(shí)器iNMy多網(wǎng)絡(luò)學(xué)習(xí)法2. 建立未知非線性動(dòng)態(tài)系統(tǒng)的逆模型。圖5-24 逆模型建模的多網(wǎng)絡(luò)控制結(jié)構(gòu)圖u非線性系統(tǒng)dyycN神經(jīng)網(wǎng)絡(luò)控制器神經(jīng)網(wǎng)絡(luò)逆模型 辨識(shí)器iNdydu一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法二、直接網(wǎng)絡(luò)控制設(shè)計(jì)法一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法最直觀的一種神經(jīng)網(wǎng)絡(luò)控制器的實(shí)現(xiàn)方法圖5-25 直接逆模型的訓(xùn)練結(jié)構(gòu)示意圖直接逆模型控制法神經(jīng)網(wǎng)絡(luò)對(duì)象( )Nuk( )u k(1)y k 1z1nz 1zmz(1) (1), (1), ( ), ()( ) (1), (1), (1), ()()Ny kf y ky knu ku kmu

15、kg y ky knu ku kmguX考慮如下單輸入單輸出系統(tǒng)假設(shè)上式可逆，則 函數(shù)g，有若能用一個(gè)多層前向傳播神經(jīng)網(wǎng)絡(luò)來(lái)逼近逆模型函數(shù) ，則一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法 (1), (1), (1), ()TXy ky knu ku km一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法 (1), (1), (1), ()TXy ky knu ku km2( ) ( )( )2NE ku kuk定義訓(xùn)練精度的誤差函數(shù)為：(1), (1), (1), ()TdXyky knu ku km120( , ) (1)( )(1) (1)()( ,1) ( )(1)() (2)(1)( ,) (1)(1) (1)()1(

16、, ) ()()2TTTPpNppX k ky ky ky knu ku kmX k ky k y ky kn u ku kmX k kPy kPy knPu kPu kmPE k Pu kPukP對(duì)于批處理訓(xùn)練方式，采用樣本于是，目標(biāo)函數(shù)為其中，為常值P-1P-2101系數(shù)，且0一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法12304pllWElWWu0maxNBP算法：1）隨機(jī)選取初始權(quán)系數(shù)陣，選定學(xué)習(xí)步長(zhǎng) ，遺忘因子和最大誤差容許值；）按照式（ ）構(gòu)成神經(jīng)網(wǎng)絡(luò)輸入矢量空間樣本值；）。計(jì)算神經(jīng)網(wǎng)絡(luò)各神經(jīng)元的輸出o和神經(jīng)網(wǎng)絡(luò)的輸出 ；一、神經(jīng)網(wǎng)絡(luò)直接逆模型控制法105( , ),(

17、 , ) ()()()()(1)(1)814PjpNpjqqjjqjijijijijiE k PE k PEu kPukPwNetwOwwwll max）計(jì)算誤差判？若是，則訓(xùn)練結(jié)束。否則繼續(xù)下一步；6）求反向傳播誤差輸出層隱含層7）調(diào)整權(quán)系數(shù)陣），轉(zhuǎn) ）二、直接網(wǎng)絡(luò)控制設(shè)計(jì)法 問(wèn)題：直接逆模型控制法沒有考慮到系統(tǒng)本身的輸入輸出狀態(tài)，因此，一旦系統(tǒng)運(yùn)行的環(huán)境、參數(shù)發(fā)生變化時(shí)，這類控制器就無(wú)法適應(yīng)了。改進(jìn)方案：改進(jìn)方案：21( )( )2pdEEyky k目標(biāo)函數(shù)為：(1)( )d ( )( )( )d (1)(1)()ijijpjpipjdpjpjpjplljlw kw koy kyky ku koow神經(jīng)網(wǎng)絡(luò)模型選用多層前向傳播神經(jīng)網(wǎng)絡(luò)，假設(shè)輸出單元層的神經(jīng)元為線性單元、其余層的神經(jīng)元取Sigmoid激勵(lì)元，則其學(xué)習(xí)規(guī)則可歸結(jié)為：輸出層隱含層二、直接網(wǎng)絡(luò)控制設(shè)計(jì)法二、直接網(wǎng)絡(luò)控制設(shè)計(jì)法ddddiiiiiiiiJacobianyuyyuuyyuuJacobianyu問(wèn)題：直接網(wǎng)絡(luò)控制法需要系統(tǒng)的矩陣。四種解決措施：1）攝動(dòng)法：用來(lái)