模糊聯(lián)想記憶

1、模模 糊糊 聯(lián)聯(lián) 想想 記記 憶憶 專專 業(yè)業(yè): 信號(hào)與信息處理信號(hào)與信息處理 學(xué)生姓名：學(xué)生姓名： 杜杜 蘭蘭 任課老師：任課老師： 高新波高新波 二零零二年十二月二零零二年十二月 神神 經(jīng)經(jīng) 網(wǎng)網(wǎng) 絡(luò)絡(luò) 和和 模模 糊糊 系系 統(tǒng)統(tǒng)主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶2本本 章章 內(nèi)內(nèi) 容容 簡(jiǎn)簡(jiǎn) 介介Kosko把多值的或模糊集合看作是單位超立方體中的點(diǎn)把多值的或模糊集合看作是單位超立方體中的點(diǎn)。Chapter 7：主要討論立方體內(nèi)的理論。：主要討論立方體內(nèi)的理論。Chapter 8：將討論立方體間的理論。通過(guò)一定的對(duì)：將討論立方體間的理論。通過(guò)一定的對(duì)應(yīng)關(guān)系將一個(gè)論域中的模糊子集映射到另

2、一個(gè)論域應(yīng)關(guān)系將一個(gè)論域中的模糊子集映射到另一個(gè)論域中，即要將一個(gè)立方體映射到另一個(gè)立方體，這種中，即要將一個(gè)立方體映射到另一個(gè)立方體，這種映射關(guān)系就是映射關(guān)系就是“聯(lián)想記憶聯(lián)想記憶”，在模糊系統(tǒng)里具體稱，在模糊系統(tǒng)里具體稱為為“模糊聯(lián)想記憶模糊聯(lián)想記憶”（Fuzzy Associative Memory，簡(jiǎn)稱簡(jiǎn)稱FAM）。因此，在這一章里，我們將具體介紹）。因此，在這一章里，我們將具體介紹如何利用模糊集合推理實(shí)現(xiàn)聯(lián)想記憶。如何利用模糊集合推理實(shí)現(xiàn)聯(lián)想記憶。主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶3主主 目目 錄錄 一、一、模糊系統(tǒng)和模糊聯(lián)想記憶模糊系統(tǒng)和模糊聯(lián)想記憶二、二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)

3、想記憶的區(qū)別和聯(lián)系模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶的區(qū)別和聯(lián)系三、模糊三、模糊Hebb FAMs四、聯(lián)想輸出和四、聯(lián)想輸出和“去模糊去模糊”五、自適應(yīng)五、自適應(yīng)FAM系統(tǒng)系統(tǒng)六、舉例：倒立擺六、舉例：倒立擺 主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶4一、模糊系統(tǒng)和模糊聯(lián)想記憶一、模糊系統(tǒng)和模糊聯(lián)想記憶 Fuzzy System Fuzzy Set輸入論域輸出論域nInIanIpI1.模糊系統(tǒng)模糊系統(tǒng)圖1 模糊系統(tǒng)示意圖主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶52.模糊聯(lián)想記憶模糊聯(lián)想記憶圖2 FAM系統(tǒng)示意圖FAM Rule mFAM Rule 1FAM 系統(tǒng)),(11BA),(22BAFAM Rule

4、2),(mmBA1B2BmBB解模糊12mAjy主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶6二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶的區(qū)別和聯(lián)系的區(qū)別和聯(lián)系相似之處：u都是model-freeu都可以從樣本或?qū)嵗袑W(xué)習(xí)u都使用數(shù)值運(yùn)算不同之處：u所用的樣本形式不同u存貯形式不同u如何聯(lián)想（推理）或如何把輸入映射到輸出的方式不同主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶7Neural iyixYXFuzzy iyixYX圖3 模糊與神經(jīng)元聯(lián)想記憶主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶8三、模糊三、模糊Hebb FAMs1.原則：“原相乘，現(xiàn)取小；原相加，現(xiàn)取大” 設(shè)給定一個(gè)模糊集對(duì)，則

5、模糊外積為BAMT模糊Hebb矩陣有兩個(gè)重要的特性：(1)TmTnAbAbBaBaM11（1）（2）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶9(2)在上面的假設(shè)前提下， 前向聯(lián)想很好BMAAMBT后向聯(lián)想不好mnnnmmmmnnnmkkkmmbabababbbbabababababababababababababababababaM2121222121211121212221212111mnkbbbMaaaaMA2121（3）（4）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶10 ，對(duì)任意的 ，對(duì)任意的 ，當(dāng)且僅當(dāng) ，當(dāng)且僅當(dāng)AAbabbabababbabababbababbbMBmnmmmnnmT212

6、22221111211211)(),(AADegreeAAS2.最小相關(guān)編碼的雙向FAM定理如果 ，則有BAMTBMAAMBTBMAAMBT)()(BHAH)()(AHBHAB主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶11(9)3. FAM規(guī)則的合成 按照一般的神經(jīng)網(wǎng)絡(luò)方法是將各聯(lián)想對(duì)對(duì)應(yīng)的FAM矩陣取最大值。kmkMM1max但這種方案對(duì)模糊Hebb編碼是失敗的。)max,maxmin(),min(max111kjmkkimkkjkimkbaba 用模糊集的方法是將聯(lián)想輸出的向量作相加性處理，而不是將FAM矩陣作相加性處理。kkTkkBBAAMA)(（5）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶12缺

7、點(diǎn)缺點(diǎn):占用空間多優(yōu)點(diǎn)優(yōu)點(diǎn)：提供了一個(gè)FAM推理跟蹤檢查的方法； 避免了模式之間的串?dāng)_； 可以使存貯庫(kù)模塊化； 帶給FAMS和NN另一個(gè)不同點(diǎn)是：輸入一個(gè)向量時(shí)，會(huì)并行激勵(lì)所有的FAM聯(lián)想對(duì)，僅是激活程度不同。主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶13四、聯(lián)想輸出和四、聯(lián)想輸出和“去模糊去模糊”1.聯(lián)想輸出為mkkkBB12.去模糊（1）一個(gè)簡(jiǎn)單的方案最大隸屬度方案)(max)(1maxjBkjBymym（2）替代方案質(zhì)心法PjjBPjjBjymymyB11)()(（6）（7）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶14五、自適應(yīng)五、自適應(yīng)FAM系統(tǒng)系統(tǒng)1.積空間聚類聯(lián)想規(guī)則FAM規(guī)則nIiAiAi

8、BiBpIpnII ),(iiBA),(iiBA圖4 FAM規(guī)則積空間聚類主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶152.自適應(yīng)FAM規(guī)則的產(chǎn)生MPN kjm圖5 突觸連接矩陣示意圖iiBB其中，kkii主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶16非模糊的輸入輸出數(shù)據(jù)BIOFAMClustering規(guī)則合并),(),(11nnyxyxkmm13.自適應(yīng)BIOFAM聚類圖6 自適應(yīng)BIOFAM示意圖主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶17簡(jiǎn)單的BIOFAM聚類提取規(guī)則的過(guò)程：（1）確定狀態(tài)變量 （前件變量）和控制變量 （后件變量）。（2）收集相應(yīng)的 的訓(xùn)練樣本（大量的有代表性的）。（3）根據(jù)訓(xùn)練樣本的分

9、布區(qū)間，劃分為 與 個(gè)模糊數(shù)，并賦于模糊語(yǔ)言量。（4）用自適應(yīng)DCLAVQ對(duì)樣本聚類，聚類數(shù)為 。（5）統(tǒng)計(jì)落在 個(gè)可能單元中的突觸矢量個(gè)數(shù) ，計(jì)算每個(gè)規(guī)則的權(quán)值 。（6）根據(jù)區(qū)間劃分進(jìn)行規(guī)則合并（7）產(chǎn)生規(guī)則庫(kù)，建立FAM系統(tǒng)。XXY),(YXrsksrikkkiiijijijimkkmmkk取或任取主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶181、確定狀態(tài)變量和控制變量 狀態(tài)變量：擺線與垂直方向的 夾角 擺線的運(yùn)動(dòng)角速度 控制變量：馬達(dá)作用于擺線的力 2、訓(xùn)練樣本 在這里我是利用MATLAB工具包里的倒立擺模型生成了 1000個(gè)倒立擺軌跡樣本作為訓(xùn)練樣本。六、舉例：倒立擺六、舉例：倒立擺45,4

10、5s150,150f主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶193、均勻劃分乘積空間圖7 隸屬度函數(shù)-40-200204000.20.40.60.81-150 -100 -50050100 15000.20.40.60.81-10-5051000.20.40.60.81主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶204、DCL聚類 NMNSZEPSPMNMPMPSNSNSPSZEZEPMPSZENSNMPSZENSPMPSNMNS圖8 規(guī)則直方圖 表1 初步規(guī)則庫(kù) 0204060010020030040002040600100200300400主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶215、規(guī)則合并 jiji

11、kkkk ijimmm取或任取一個(gè)6、建立FAM規(guī)則庫(kù) NMNSZEPSPMNMPMNSNSPSZEZEPMPSZENSNMPSZENSPMPSNM 表2 規(guī)則庫(kù) 主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶227、模糊聯(lián)想記憶mnnnmiiimmACcacacacacacacacacacacacaCAM2121222121211100),(),(),();,(iBCACBCACaAMBMABAFMCBMCAMCBACbaCbCaBAFjiji),min(),(（8）（9）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶23（20，-30）PS，NS ZEPS，ZE NS（0.83，0.31）（0.83，0.22） 0.31)(FmFZE)(FmFNS 0.22主目錄主目錄模