人工神經網絡學習_第1頁
人工神經網絡學習_第2頁
人工神經網絡學習_第3頁
人工神經網絡學習_第4頁
人工神經網絡學習_第5頁
已閱讀5頁，還剩17頁未讀， 繼續免費閱讀

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領

文檔簡介

人工神經網絡學習人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型，由大量的神經元之間相互聯接構成，每兩個神經元間的連接都代表一個對于通過該連接信號的加權值反向傳播算法，使用梯度下降來調節網絡參數以最佳擬合由輸入-輸出對組成的訓練集合先用樣本數據訓練神經網絡時，它自動地將輸出值與期望值進行比較，得到誤差信號，再根據誤差信號，從后向前調節各神經網絡層神經元之間的連接強度，然后再進行運算，使誤差減小，再將新的輸出值與期望值進行比較，得到新的比先前小的誤差信號，再根據較小的誤差信號，從后向前重新調節各神經網絡層神經元之間的連接強度，依此不斷地多次進行，直到誤差滿足要求為止感知器感知器以一個實數值向量作為輸入，計算這些輸入的線性組合，如果結果大于某個閾值，就輸出1，否則輸出-1。其中每個wi是一個實數常量，或叫做權值，用來決定輸入xi對感知器輸出的貢獻率。特別地，-w0是閾值。f(v)x1x2xnX0=1w0w1w2wn附加一個常量輸入x0=1，前面的不等式寫成或感知器的表征能力可以把感知器看作是n維實例空間（即點空間）中的超平面決策面對于超平面一側的實例，感知器輸出1，對于另一側的實例，輸出-1這個決策超平面方程是可以被某個超平面分割的樣例集合，稱為線性可分樣例集合感知器訓練法則雖然我們的目的是學習由多個單元互連的網絡，但我們還是要從如何學習單個感知器的權值開始單個感知器的學習任務，決定一個權向量，它可以使感知器對于給定的訓練樣例輸出正確的1或-1我們主要考慮兩種算法感知器法則delta法則這兩種算法保證收斂到可接受的假設，在不同的條件下收斂到的假設略有不同這兩種算法提供了學習多個單元構成的網絡的基礎感知器法則為得到可接受的權向量，一種辦法是從隨機的權值開始，然后反復地應用這個感知器到每個訓練樣例，只要它誤分類樣例就修改感知器的權值。感知器法則：其中，t是當前訓練樣例的目標輸出，o是感知器的輸出，η是一個正的常數稱為學習速率（0.1）delta法則delta法則克服感應器法則的不足，在線性不可分的訓練樣本上，收斂到目標概念的最佳近似delta法則的關鍵思想是，使用梯度下降來搜索可能的權向量的假設空間，以找到最佳擬合訓練樣例的權向量把delta訓練法則理解為訓練一個無閾值的感知器（一個線性單元）指定一個度量標準來衡量假設相對于訓練樣例的訓練誤差其中，D是訓練樣例集合，是訓練樣例d

的目標輸出，是線性單元對訓練樣例d的輸出經貝葉斯論證，對于給定的訓練數據使E最小化的假設也就是H中最可能的假設梯度下降搜索從一個任意的初始權向量開始，然后沿誤差曲面最陡峭下降的方向，以很小的步伐反復修改這個向量，直到得到全局的最小誤差點梯度下降法則的推導如何發現沿誤差曲面最陡峭下降的方向？通過計算E相對向量的每個分量的導數，這個向量導數被稱為E對于的梯度，記作當梯度被解釋為權空間的一個向量時，它確定了使E最陡峭上升的方向，所以這個向量的反方向給出了最陡峭下降的方向梯度訓練法則

其中訓練法則的分量形式：

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論