Adaboost算法簡介_第1頁
Adaboost算法簡介_第2頁
Adaboost算法簡介_第3頁
全文預覽已結束

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領

文檔簡介

1、Adaboost 算法1、 AdaBoost 算法簡介AdaBoost 算法是 Freund 和 Schapire 根據在線分配算法提出的,他們詳細分析了 AdaBoost 算法錯誤率的上界,以及為了使強分類器達到錯誤率,算法所需要的最多迭代次 數等相關問題。 與 Boosting 算法不同的是, adaBoost 算法不需要預先知道弱學習算法學習 正確率的下限即弱分類器的誤差, 并且最后得到的強分類器的分類精度依賴于所有弱分類器 的分類精度,這樣可以深入挖掘弱分類器算法的能力。2、 Adaboost 算法基本原理Adaboost 是一種迭代算法,其核心思想是針對同一個訓練集訓練不同的分類器

2、(弱分類 器 , 然后把這些弱分類器集合起來, 構成一個更強的最終分類器 (強分類器 。 其算法本身是 通過改變數據分布來實現的, 它根據每次訓練集之中每個樣本的分類是否正確, 以及上次的 總體分類的準確率, 來確定每個樣本的權值。 將修改過權值的新數據集送給下層分類器進行 訓練, 最后將每次訓練得到的分類器最后融合起來, 作為最后的決策分類器。 使用 Adaboost 分類器可以排除一些不必要的訓練數據特征,并將關鍵放在關鍵的訓練數據上面。AdaBoost 算法中不同的訓練集是通過調整每個樣本對應的權重來實現的。開始時,每 個樣本對應的權重是相同的,即其中 n 為樣本個數,在此樣本分布下訓練

3、出一弱分類器。 對于分類錯誤的樣本, 加大其對應的權重; 而對于分類正確的樣本, 降低其權重, 這樣分錯 的樣本就被突出出來, 從而得到一個新的樣本分布。 在新的樣本分布下, 再次對弱分類器進 行訓練, 得到弱分類器。依次類推,經過 T 次循環,得到 T 個弱分類器, 把這 T 個弱分 類器按一定的權重疊加(boost 起來,得到最終想要的強分類器。AdaBoost 算法的具體步驟如下:設輸入的 n 個訓練樣本為 :(x1,y1, (x2,y2, .(xn,yn,其中 xi 是輸入的訓練樣本, yi 0,1分別表示正樣本和負樣本,其中正樣本數為 l ,負樣本數 m 。 n=l+m,具體步驟如 下:(1 初始化每個樣本的權重 w i ,i D(i;(2對每個 t=1,., T(T為弱分類器的個數 把權重歸一化為一個概率分布 對每個特征 f ,訓練一個弱分類器 h j 計算對應所有特征的弱分類器的加權錯誤率選取最佳的弱分類器 h t (擁有最小錯誤率 :t按照這個最佳弱分類器,調整權重 其中 i =0表示被正確地分類, i =1,表示被錯誤地分類 (3最后的強分類器為: 3、 A daBoost 算法應用隨著 AdaBoost 算法的發展, 目前 AdaB

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論