1、精選優質文檔-傾情為你奉上基于模式識別的判別函數分類器的設計與實現摘要：本文主要介紹了模式識別中判別函數的相關概念和感知器算法的原理及特點，并例舉實例介紹感知器算法求解權向量和判別函數的具體方法，最后按照線性函數判決函數的感知算法思想結合數字識別，來進行設計，通過訓練數字樣本（每個數字樣本都大于120），結合個人寫字習慣，記錄測試結果，最后通過matlab編碼來實現感知器的數字識別。關鍵字：模式識別 判別函數 感知器 matlab1 引言模式識別就是通過計算機用數學技術方法來研究模式的自動處理和識別。對于人類的識別能力我們是非常熟悉的。因為我們在早些年就已經會開發識別聲音、臉、動物、水果或簡單

2、不動的東西的技術了。在開發出說話技術之前，一個象球的東西，甚至看上去只是象個球，就已經可以被識別出來了。所以除了記憶，抽象和推廣能力是推進模式識別技術的關鍵技術。最近幾年我們已可以處理更復雜的模式，這種模式可能不是直接基于通過感知器觀察出來的隨著計算機技術的發展，人類對模式識別技術提出了更高的要求。本文第二節介紹判別函數分類器，具體介紹了判別函數的概念、特點以及如何確定判別函數的正負；第三節介紹了感知器的概念、特點并用感知器算法求出將模式分為兩類的權向量解和判別函數，最后用matlab實現感知判別器的設計。2 判別函數分類器2.1 判別函數概念直接用來對模式進行分類的準則函數。若分屬于1，2的

3、兩類模式可用一方程d(X) =0來劃分，那么稱d(X) 為判別函數，或稱判決函數、決策函數。如，一個二維的兩類判別問題，模式分布如圖示，這些分屬于1，2兩類的模式可用一直線方程 d(X)=0來劃分。其中 式中： 為坐標變量。圖2-1 兩類二維模式的分布將某一未知模式 X 代入： 若，則類； 若，則類； 若，則或拒絕維數=3時：判別邊界為一平面。維數>3時：判別邊界為一超平面。2.2 判別函數正負值的確定判別界面的正負側，是在訓練判別函數的權值時確定的。如圖2-2。圖2-2 判別函數正負的確定圖中 d(X)=0表示的是一種分類的標準，它可以是1、2、3維的，也可以是更高維的。2.3 確定判

4、別函數的兩個因素 1）判決函數d(X)的幾何性質。它可以是線性的或非線性的函數，維數在特征提取時已經確定。已知三維線性分類 判決函數的性質就確定了判決函數的形式：非線性判決函數，其示意圖如圖2-3所示：圖:2-3 非線性判決函數圖示2）判決函數d(X)的系數，由所給模式樣本確定的。3感知器算法設計與實現對一種分類學習機模型的稱呼，屬于有關機器學習的仿生學領域中的問題，由于無法實現非線性分類而下馬。但“賞罰概念（ reward-punishment concept）” 得到廣泛應用，感知器算法就是一種賞罰過程。 3.1 感器算法原理及特點3.1.1 感知器算法原理兩類線性可分的模式類 ，設其中，

5、應具有性質 （3-1）對樣本進行規范化處理，即2類樣本全部乘以(1)，則有： 感知器算法通過對已知類別的訓練樣本集的學習，尋找一個滿足上式的權向量。感知器算法步驟： （1）選擇N個分屬于1和 2類的模式樣本構成訓練樣本集 X1 , XN 構成增廣向量形式，并進行規范化處理。任取權向量初始值W(1)，開始迭代。迭代次數k=1。（2）用全部訓練樣本進行一輪迭代，計算WT(k)Xi 的值，并修正權向量。分兩種情況，更新權向量的值：1. 分類器對第i個模式做了錯誤分類，權向量校正為：c：正的校正增量。2. 若分類正確，權向量不變：,統一寫為： (3-3)（3）分析分類結果：只要有一個錯誤分類，回到（2

6、），直至對所有樣本正確分類。感知器算法是一種賞罰過程：分類正確時，對權向量“賞”這里用“不罰”，即權向量不變；分類錯誤時，對權向量“罰”對其修改，向正確的方向轉換。3.1.2 感知算法特點-收斂性收斂性：經過算法的有限次迭代運算后，求出了一個使所有樣本都能正確分類的W，則稱算法是收斂的。感知器算法是在模式類別線性可分條件下才是收斂的。3.1.3 感知器算法用于多類情況采用多類情況3的方法時，應有：若，則 對于M類模式應存在M個判決函數： ,算法主要內容：設有M中模式類別：設其權向量初值為：訓練樣本為增廣向量形式，但不需要規范化處理。第K次迭代時，一個屬于i 類的模式樣本X被送入分類器，計算所有

7、判別函數 (3-4)分二種情況修改權向量： 若，則權向量不變； 若第L個權向量使，則相應的權向量作調整，即： (3-5)其中c為正的校正增量，只要模式類在情況3判別函數時是可分的，則經過有限次迭代后算法收斂。3.2 實例說明為了說明感知器算法的具體實現，下面舉出實例加以說明： 已知兩類訓練樣本用感知器算法求出將模式分為兩類的權向量解和判別函數。 解：所有樣本寫成增廣向量形式；進行規范化處理，屬于2的樣本乘以(1)。 任取W(1)=0，取c=1，迭代過程為：第一輪：有兩個WT(k)Xi 0的情況（錯判），進行第二輪迭代。第二輪：第三輪：第四輪：該輪迭代的分類結果全部正確，故解向量相應的判別函數為

8、：圖3-1 判決函數示意圖判別界面d(X)=0如圖示。當c、W(1)取其他值時，結果可能不一樣，所以感知器算法的解不是單值的。3.3 matlab的感知器算法設計與實現本設計是按照線性函數判決函數的感知算法思想結合數字識別，來進行設計，通過訓練數字樣本（每個數字樣本都大于120），結合個人寫字習慣，記錄測試結果，最后通過matlab編碼來實現感知器的數字識別。3.3.1 Matlab代碼設計 function y=jiangcheng(sample) clc; load templet pattern; w=zeros(26,10); d=; maxpos=0; maxval=0; f=1;

9、n=;m=; %依次輸入樣本 for j=1:100 for i=1:10 f=1; pattern(i).feature(26,j)=1; for k=1:10 m=pattern(i).feature(:,j); d(k)=w(:,k)*m; end %判斷是否為最大值，如果是，f=1，否則f=0； for=1:10 if k=i if d(i)<=d(k) I=0; end end end %修正權值 if f for k=1:10 if k=i w(:,k)=w(:,k)+pattern(i).feature(:,j); else w(:,k)=w(:,k)-pattern(i)

10、.feature(:,j); end end end endend sample(26)=1; h=; %計算各類別的判別函數 for k=1:10 h(k)=w(:k)'*sample' end maxval,maxpos=max(h); y=maxpos-1;3.3.2 matlab實現首先通過，手寫輸入0-9個數字的訓練樣例各130個，如下圖所示： 圖3-2 數字訓練樣品訓練樣本準備好后，進行數字識別測試,其測驗如下： 圖3-3 數字測驗結果正確樣例 圖3-4 數字測試不正確樣例3.3.3 設計結果分析通過多次手寫驗證測試，有65%通過，其結果如節顯示，由于模式識別的算法復雜，步驟較多，實現起來有一定的難度。為了使樣品庫少一些，將精力著重放在算法的理解及編程實現上，此次設計用的是6x6的設計模板，這個比較小，其對測試結果的正確性起著確定性的作用。故增大設計模板以及提高算法的精確度可