模糊聯(lián)想記憶

1、模模 糊糊 聯(lián)聯(lián) 想想 記記 憶憶 專專 業(yè)業(yè): 信號與信息處理信號與信息處理 學生姓名：學生姓名： 杜杜 蘭蘭 任課老師：任課老師： 高新波高新波 二零零二年十二月二零零二年十二月 神神 經(jīng)經(jīng) 網(wǎng)網(wǎng) 絡絡 和和 模模 糊糊 系系 統(tǒng)統(tǒng)主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶2本本 章章 內(nèi)內(nèi) 容容 簡簡 介介Kosko把多值的或模糊集合看作是單位超立方體中的點把多值的或模糊集合看作是單位超立方體中的點。Chapter 7：主要討論立方體內(nèi)的理論。：主要討論立方體內(nèi)的理論。Chapter 8：將討論立方體間的理論。通過一定的對：將討論立方體間的理論。通過一定的對應關(guān)系將一個論域中的模糊子集映射到另

2、一個論域應關(guān)系將一個論域中的模糊子集映射到另一個論域中，即要將一個立方體映射到另一個立方體，這種中，即要將一個立方體映射到另一個立方體，這種映射關(guān)系就是映射關(guān)系就是“聯(lián)想記憶聯(lián)想記憶”，在模糊系統(tǒng)里具體稱，在模糊系統(tǒng)里具體稱為為“模糊聯(lián)想記憶模糊聯(lián)想記憶”（Fuzzy Associative Memory，簡稱簡稱FAM）。因此，在這一章里，我們將具體介紹）。因此，在這一章里，我們將具體介紹如何利用模糊集合推理實現(xiàn)聯(lián)想記憶。如何利用模糊集合推理實現(xiàn)聯(lián)想記憶。主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶3主主 目目 錄錄 一、一、模糊系統(tǒng)和模糊聯(lián)想記憶模糊系統(tǒng)和模糊聯(lián)想記憶二、二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)

3、想記憶的區(qū)別和聯(lián)系模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶的區(qū)別和聯(lián)系三、模糊三、模糊Hebb FAMs四、聯(lián)想輸出和四、聯(lián)想輸出和“去模糊去模糊”五、自適應五、自適應FAM系統(tǒng)系統(tǒng)六、舉例：倒立擺六、舉例：倒立擺 主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶4一、模糊系統(tǒng)和模糊聯(lián)想記憶一、模糊系統(tǒng)和模糊聯(lián)想記憶 Fuzzy System Fuzzy Set輸入論域輸出論域nInIanIpI1.模糊系統(tǒng)模糊系統(tǒng)圖1 模糊系統(tǒng)示意圖主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶52.模糊聯(lián)想記憶模糊聯(lián)想記憶圖2 FAM系統(tǒng)示意圖FAM Rule mFAM Rule 1FAM 系統(tǒng)),(11BA),(22BAFAM Rule

4、2),(mmBA1B2BmBB解模糊12mAjy主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶6二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶二、模糊聯(lián)想記憶與神經(jīng)元聯(lián)想記憶的區(qū)別和聯(lián)系的區(qū)別和聯(lián)系相似之處：u都是model-freeu都可以從樣本或?qū)嵗袑W習u都使用數(shù)值運算不同之處：u所用的樣本形式不同u存貯形式不同u如何聯(lián)想（推理）或如何把輸入映射到輸出的方式不同主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶7Neural iyixYXFuzzy iyixYX圖3 模糊與神經(jīng)元聯(lián)想記憶主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶8三、模糊三、模糊Hebb FAMs1.原則：“原相乘，現(xiàn)取?。辉嗉?，現(xiàn)取大” 設給定一個模糊集對，則

5、模糊外積為BAMT模糊Hebb矩陣有兩個重要的特性：(1)TmTnAbAbBaBaM11（1）（2）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶9(2)在上面的假設前提下， 前向聯(lián)想很好BMAAMBT后向聯(lián)想不好mnnnmmmmnnnmkkkmmbabababbbbabababababababababababababababababaM2121222121211121212221212111mnkbbbMaaaaMA2121（3）（4）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶10 ，對任意的 ，對任意的 ，當且僅當 ，當且僅當AAbabbabababbabababbababbbMBmnmmmnnmT212

6、22221111211211)(),(AADegreeAAS2.最小相關(guān)編碼的雙向FAM定理如果 ，則有BAMTBMAAMBTBMAAMBT)()(BHAH)()(AHBHAB主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶11(9)3. FAM規(guī)則的合成 按照一般的神經(jīng)網(wǎng)絡方法是將各聯(lián)想對對應的FAM矩陣取最大值。kmkMM1max但這種方案對模糊Hebb編碼是失敗的。)max,maxmin(),min(max111kjmkkimkkjkimkbaba 用模糊集的方法是將聯(lián)想輸出的向量作相加性處理，而不是將FAM矩陣作相加性處理。kkTkkBBAAMA)(（5）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶12缺

7、點缺點:占用空間多優(yōu)點優(yōu)點：提供了一個FAM推理跟蹤檢查的方法； 避免了模式之間的串擾； 可以使存貯庫模塊化； 帶給FAMS和NN另一個不同點是：輸入一個向量時，會并行激勵所有的FAM聯(lián)想對，僅是激活程度不同。主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶13四、聯(lián)想輸出和四、聯(lián)想輸出和“去模糊去模糊”1.聯(lián)想輸出為mkkkBB12.去模糊（1）一個簡單的方案最大隸屬度方案)(max)(1maxjBkjBymym（2）替代方案質(zhì)心法PjjBPjjBjymymyB11)()(（6）（7）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶14五、自適應五、自適應FAM系統(tǒng)系統(tǒng)1.積空間聚類聯(lián)想規(guī)則FAM規(guī)則nIiAiAi

8、BiBpIpnII ),(iiBA),(iiBA圖4 FAM規(guī)則積空間聚類主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶152.自適應FAM規(guī)則的產(chǎn)生MPN kjm圖5 突觸連接矩陣示意圖iiBB其中，kkii主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶16非模糊的輸入輸出數(shù)據(jù)BIOFAMClustering規(guī)則合并),(),(11nnyxyxkmm13.自適應BIOFAM聚類圖6 自適應BIOFAM示意圖主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶17簡單的BIOFAM聚類提取規(guī)則的過程：（1）確定狀態(tài)變量 （前件變量）和控制變量 （后件變量）。（2）收集相應的 的訓練樣本（大量的有代表性的）。（3）根據(jù)訓練樣本的分

9、布區(qū)間，劃分為 與 個模糊數(shù)，并賦于模糊語言量。（4）用自適應DCLAVQ對樣本聚類，聚類數(shù)為 。（5）統(tǒng)計落在 個可能單元中的突觸矢量個數(shù) ，計算每個規(guī)則的權(quán)值 。（6）根據(jù)區(qū)間劃分進行規(guī)則合并（7）產(chǎn)生規(guī)則庫，建立FAM系統(tǒng)。XXY),(YXrsksrikkkiiijijijimkkmmkk取或任取主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶181、確定狀態(tài)變量和控制變量 狀態(tài)變量：擺線與垂直方向的 夾角 擺線的運動角速度 控制變量：馬達作用于擺線的力 2、訓練樣本 在這里我是利用MATLAB工具包里的倒立擺模型生成了 1000個倒立擺軌跡樣本作為訓練樣本。六、舉例：倒立擺六、舉例：倒立擺45,4

10、5s150,150f主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶193、均勻劃分乘積空間圖7 隸屬度函數(shù)-40-200204000.20.40.60.81-150 -100 -50050100 15000.20.40.60.81-10-5051000.20.40.60.81主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶204、DCL聚類 NMNSZEPSPMNMPMPSNSNSPSZEZEPMPSZENSNMPSZENSPMPSNMNS圖8 規(guī)則直方圖 表1 初步規(guī)則庫 0204060010020030040002040600100200300400主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶215、規(guī)則合并 jiji

11、kkkk ijimmm取或任取一個6、建立FAM規(guī)則庫 NMNSZEPSPMNMPMNSNSPSZEZEPMPSZENSNMPSZENSPMPSNM 表2 規(guī)則庫 主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶227、模糊聯(lián)想記憶mnnnmiiimmACcacacacacacacacacacacacaCAM2121222121211100),(),(),();,(iBCACBCACaAMBMABAFMCBMCAMCBACbaCbCaBAFjiji),min(),(（8）（9）主目錄主目錄模糊聯(lián)想記憶模糊聯(lián)想記憶23（20，-30）PS，NS ZEPS，ZE NS（0.83，0.31）（0.83，0.22） 0.31)(FmFZE)(FmFNS 0.22主目錄主目錄模