雙向聯想記憶_第1頁
雙向聯想記憶_第2頁
雙向聯想記憶_第3頁
雙向聯想記憶_第4頁
雙向聯想記憶_第5頁
已閱讀5頁,還剩9頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

雙向聯想記憶第1頁,共14頁,2023年,2月20日,星期五雙向聯想記憶網絡是一種異聯想(hetero-association)的雙層神經網絡記憶存儲的樣本是二元數據對{},A,B分屬不同維量的向量空間輸入或,經過雙向反饋不斷提高回憶聯向精度,網絡穩定輸出{}或足夠逼近{}。概述第2頁,共14頁,2023年,2月20日,星期五網絡結構AB

兩層結構,A層是m維,B層是p維。兩者都可以作為輸入層或輸出層每個神經元與本層其他神經元無連接,而和另一層全部神經元連接。欲被聯想的模式從某一層輸入,經過雙向反饋聯想計算,最終趨于穩定,得到輸出。神經元對輸入加權和進行非線性處理。第3頁,共14頁,2023年,2月20日,星期五雙向反饋聯想計算

在t時刻,A層輸入,經計算可得B層的輸出其中,單元j的輸出為:也可以用階躍函數φ第4頁,共14頁,2023年,2月20日,星期五記憶--權重學習

設有N個樣本,采用基于Hebb規則的外積法得:正向聯想存儲器:矩陣

反向聯想存儲器:矩陣第5頁,共14頁,2023年,2月20日,星期五記憶--權重學習例樣本:→輸入聯想:第6頁,共14頁,2023年,2月20日,星期五BAM穩定性與Hopfield網絡類似,BAM的樣本存儲在能量極小處Kosko定義了系統的能量函數:(標量轉置為其本身)類似Hopfield可以證明:沿著狀態空間

中的離散軌跡,總有而對所有的A和B,E總是有界,即(令θ=0)

第7頁,共14頁,2023年,2月20日,星期五BAM穩定性如果將離散BAM的差分狀態改成下列的微分方程式,就會得到連續BAM(continuousbidirectionalassociativememory):

其中,Ii

以及

I’j

為正值常數。

第8頁,共14頁,2023年,2月20日,星期五BAM穩定性根據

Kosko的研究,BAM的最大記憶容量為:

,更保守的估計應該不會超過BAM的狀態改變,不管是用同步

(synchronization)

或異步

(asynchronization)

的方式,都會收斂至雙向穩定狀態。聯想記憶的性能取決于吸引子的尺寸、存儲容量和收斂時間。所存模式的正交性或統計可分離性影響網絡的記憶和回憶能力。第9頁,共14頁,2023年,2月20日,星期五BAM穩定性Kosko(1987):基本的雙聯存儲器無條件穩定——聯接權矩陣是互為轉置矩陣。當輸入向量的維數與輸出向量的維數相同時,W為方陣,此時如果聯接矩陣W是對稱的,則基本的雙聯存儲器退化成一個Hopfield網第10頁,共14頁,2023年,2月20日,星期五序列模式記憶與聯想BAM除了可被用于記憶靜態

(static)的向量對之外,亦可用來存儲動態的狀態變化

(dynamicstatetransitions),譬如說,想要存儲以下的一連串狀態向量:我們可以將此問題視為異聯想的記憶問題,亦即要BAM記得以下之向量對:

第11頁,共14頁,2023年,2月20日,星期五序列模式記憶與聯想第12頁,共14頁,2023年,2月20日

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論