人工神經網絡的金融應用

——原理及應用人工神經網絡方法人工神經網絡背景介紹人工神經網絡原理金融應用領域神經網絡的實證分析人工神經網絡背景介紹對人的腦神經的抽象模擬人工神經網絡的發展史人工神經網絡應用領域1從模擬人的腦神經出發

人類大腦分為兩個半球（左半球-左腦；右半球-右腦）,左腦支配人體的右側,右腦支配人體的左側,

左右腦具有不同的功能。左半球傾向于按順序處理信息，右半球卻習慣同時處理信息。

基于邏輯思維，如電子計算機就是模擬人腦邏輯思維的人工智能系統.

現行計算機運算速度是人腦神經元速度的幾百萬倍計算機在解決與形象思維和靈感思維相關的問題時，卻顯得無能為力。

人工神經網絡則是探索人的形象思維，即針對右腦的認知規律的研究產物。人工智能工程人類左腦功能人腦與“電腦”的信息處理能力差距：

記憶與聯想能力方面:人腦具有非凡的創造能力。良好的學習和認知能力（剛生嬰兒大腦幾乎空白，但是在成長中通過對外界環境的感知及意識，知識和經驗與日俱增）。

信息綜合能力方面：人腦善于知識歸納，類比和概括，也可以是經驗地、模糊地甚至是直覺地做出判斷等。

信息處理速度方面：人腦中的信息處理是以神經細胞為單位，而神經細胞的傳遞速度只能達毫秒級，比計算機電子元件納秒級的計算速度慢得多。實際上數值處理方面確實如此。但在圖形聲音等類信息的處理方面則不同。如幾個月嬰兒從人群中一眼認出母親，而計算機解決此類問題則需要一幅具有幾百萬個像素的逐點處理，并提取臉譜特征進行識別，等等。人腦與電腦的信息處理機制不同

人腦中的神經網絡是一種高度并行的非線性信息處理系統，雖然單個神經信息處理速度為毫秒級，但大規模神經細胞（人腦有約1.4×10１１個）的群體協同并行處理方式是高效的．而計算機采用的是有限集中的串行信息處理機制（基于馮．諾依曼工作原理VonNeumann）。即存儲器與處理器相互獨立，處理信息必須是形式化信息（用二進制定義）。神經元

形成神經網絡

每個神經元有數以千計的通道同其他神經元互連，形成復雜的生物神經網絡。生物神經網絡以神經元為基本信息處理單元，對信息進行分布式存儲與加工。這處信息加工與存儲相結合的群體協同工作方式使得人腦呈現出神奇智能。為了模擬人腦形象思維方式，人們從模擬人腦生物神經網絡的信息存儲加工處理機制入手，設計具有人類思維特點的智能機器，無疑是最有希望的途經之一。ANN定義：ANN是以數學和物理方法以及信息處理的角度對人腦神經網絡進行抽象，并建立某種簡化模型。ANN是生物學上的真實人腦神經網絡的結構以及若干基本特性的某種理論抽象，簡化模擬而構成的一種信息處理系統。ANN是采用物理可實現的系統來模仿人腦神經細胞和結構和功能的系統。

應該明確:ANN遠不是人腦生物神經網絡的真實寫照，而只是對它的簡化，抽象與模擬。目前已提出上百種ANN模型，這些簡化模型的確能反映出人腦的許多基本特征。它們在模式識別、系統辨識、信號處理、自動控制、組合優化、預測估計、故障診斷、醫學與經濟學等許多領域已成功地解決了許多用計算機等方法難解決的實際問題，表現出良好的智能特征和潛在的應用前景。

人工神經網絡應用系統的研究，需要硬件制作技術的新突破，以便制作出ANN設備，據報道神經網絡計算機已取得令人矚目的進展。

ANN的研究內容極具豐富，涉及的面寬而又有相當深的理論有待進一步研究（涉及多學科知識）。研究內容大體上有基本理論、模型、算法、應用和實現等五大方面，每方面都有很多問題尚未解決或完善解決，尚需用各種方法從各方面開展對ANN進行更深入研究。2.人工神經網絡發展簡史

2.人工神經網絡發展簡史早期（啟蒙時期）

1943年,美國心理學家W.S.MeCuLLoch和數學家W.H.Pitts合作,在分析總結神經元基本特性的基礎上，提出神經元數學模型，簡稱MP模型。從腦科學研究來看，MP模型是第一個用數理語言描述人腦的信息處理過程的模型。后來此模型又有發展，至今沿用——人工神經網絡之先驅。1957年,F.Rosenblatt設計制作了“感知機”（Perceptron），是一種三層神經網絡。用于文字、聲音識別、聲納信號識別，及學習記憶問題研究。1962年,Widrow和Hoff等提出了自適應線性元件網絡，簡稱Adline（AdaptiveLinearelemlnt），用硬件電路實現設計，用于自適應信號處理，雷達無線控制等方面。低潮期：20世紀60年代末

人們對感知機興趣開始衰落，

即線性感知機功能有限，只能進行線性分類和求解一階謂詞問題，不能進行非線性分類和解決比較復雜的高階謂詞問題（如異或（XOR）等）。

學術界有地位和影響力的人的悲觀論調典型代表人物：Minsky和Papert（美麻省理工學院著名人工智能學者）（作了大量數學研究，在當時技術條件下，他們在多層網絡的有效學習方法上遇到了極大困難），很多領域的專家紛紛放棄了這方面課題的研究，開始了神經網絡發展史上長達10年的低潮期。集成電路和微電子技術的迅猛發展

70年代以來集成電路和微電子技術的迅猛發展，使傳統的VonNedmann型計算機進入全盛期，基于邏輯符號處理方法的人工智能（AI）得到迅速發展并取得顯著成就）復興時期（新高潮期）（２０世紀80年代）

標志是美國加州工學院物理學家JohnHopfield1982和1984年在美國科學院院刊上發表兩篇論文，提出了仿人腦的ANN模型。著名的Hopfield模型，獲得工程技術與學術界的重視。Hopfield的主要貢獻是：根據網絡的非線性微分方程，引用能量函數（Lyapunov函數——李雅普諾夫函數）的概念，使ANN的平衡穩定狀態有了明確的判據方法；利用模擬電路的基本元件構作了ANN的硬件原理模型，為硬件實現奠定了基礎。開拓了神經網絡用于聯想記憶和優化計算等方面的新途徑。

人們重認識到ANN的威力，大批學者和研究人員圍繞Hopield新方法開展進一步工作，使該學科研究升溫。1985年，TerrenceSejnowski和Hinton.Ackley提出Bottzmann（玻爾茲曼）機，首次采用多層網絡的學習算法，并用模擬退火過程來模擬外界環境。

1986年,Rumelhart和Mc.Clelland提出多層網絡的“逆推”（或稱“反傳”backpropation）學習算法，簡稱BP網絡。BP迄今為止，是用的比較廣泛和流行的最普通的網絡。新時期（熱潮期（80年代后期到現今））

1987年國際神經網絡學會成立（INNS）宣告神經網絡計算機學科的誕生。掀起人類向生物學習，研究和開發及應用神經網絡的熱潮。

1991年IJCNN（國際聯合神經網絡會議）主席D.Rumelhart在開幕詞中講到“神經網絡的發展已進入轉折點，它的范圍正在不斷擴大，領域幾乎包括各個方面”。(1)理論上導求研究新進展(2)人工神經網絡技術與當前技術相結合現在ANN技術正進入和AI（人工智能），視覺與語聲識別系統，專家系統、機器人以及化學和醫學等的結合。目前各國發展重點是以應用為導向，以發展高性能的混合計算機為目標。

(3)應用領域廣泛新時期特點我國ANN研究現狀

1988年，北京大學組織召開了第一次關于神經網絡的討論會，一些知名學者在會上作了專題報告。

1989年，北京和廣州等地召開了神經網絡及其應用討論會和第一屆全國信號處理——神經網絡學術會議。

1990年12月，由中國電子學會及計算機學會等八個學會聯合發起并組織了中國第一次神經網絡會議，參加人數400余人，搜集到會議記錄中的論文358篇，內容涉及生物、人工神經網絡模型、理論、分析應用及實現等各方面。

1991年12月由13個單位發起和組織召開第二次全國神經網絡會議，錄用論文280篇。在南京成立中國神經網絡學會。

1992年中國神經網絡委員會在北京承辦了世界性的國際神經網絡學術大會。經過10幾年的發展，我國人工神經網絡和研究和應用正邁向新的高科技時代。3人工神經網絡的應用領域主要介紹一下幾個主要應用領域。信息領域信號處理：自適應信號處理和非線性信號處理都可以。模式識別：可以處理靜態模式如固定圖象，固定能譜等，還可以處理動態模式如視頻圖象，連續語音等。數據壓縮：自動化領域系統辨識：如自動控制中，被控對象的數學模型建立等問題。神經控制器：控制器在實時控制系統中起著“大腦”的作用，神經網絡具有自學習和自適應等智能特點非常適合作控制器。近年神經網絡控制器在工業、航空以及機器人等領域的控制系統中取得了可喜的應用成果。智能檢測：檢測中對干擾量的處理、傳感器輸入輸出特性的非線性補償零點和量程的自動校正以及自動診斷等。

工程領域（1）汽車工程：利用神經網絡的非線性映射能力，通過學習優秀駕駛員的換擋經驗數據，可自動提取最佳擋規律。神經網絡在汽車的最佳剎車系統ABS的智能控制中應用；神經網絡在重載車柴油機燃燒系統方案優化中的應用等。

（2）軍事工程神經網絡同紅外搜索與跟蹤系統配合實現發現和跟蹤飛行器；借助神經網絡的語音分析與信號處理的經驗，對聲納信號進行分析研究，對水下目標的識別率可達90%；密碼學方面應用如：語音開關、指紋開關。（3）化學工程

制藥配方、生物化學、化學工程等領域取得不少應用成果。（4）水利工程水利發電過程辨識和控制、河流水質分類、水資源規劃、供壩優化設計、巖土類型識別、工程造價分析等。醫學領域（1）檢測數據分析

神經網絡在許多醫學檢測設備中應用普遍。如用ANN進行多適腦電棘波的檢測，對早期癲癇病人進行實時檢測預報。（2）生物活性研究ANN對生物學檢測數據進行分析。如分子致癌性的ANN預測具有生物學檢測不具備的優點。（3）醫療診斷設備的專家系統中有許多應用。

以非線性并行分布或處理為基礎的ANN為專家系統的研究開辟了新途經，特別在并行推理等問題取得了良好效果。經濟領域（1）信貸分析，如：信用評估系統等。（2）市場預測，如：股票趨勢預測等等。人工神經網絡原理ANN的結構人工神經網絡的學習規則傳統統計模型與神經網絡ANN模型的選擇ANN中的統計推斷構建模型時需注意的兩個方面神經網絡模型的種類

按照拓撲結構可以分為反饋神經網絡模型和前向神經網絡模型；按照性能可以分為連續型和離散型神經網絡模型，確定型和隨機型神經網絡模型；按照學習方式可以分為有教師學習和無教師學習神經網絡；按照連接突觸性質可以分為一階線性關聯神經網絡模型和高階非線性關聯神經網絡模型。常見的人工神經網絡模型，主要包括感知器（Perceptron）神經網絡、線性神經網絡、前饋神經網絡、徑向基函數神經網絡、自組織競爭神經網絡、回歸神經網絡等。神經網絡模擬了一個具有許多相對簡單的個體單元高度聯系、平行計算的結構。個體單元編成三層：輸入層、中間層和輸出層。前饋網絡單方向將輸入映射成輸出，即從輸入層到中間層再到輸出層。ANN的結構其中F、G是傳遞函數可以解釋為代表所描述的三層前饋神經網絡的非線性函數。

人工神經網絡的學習規則神經網絡的學習過程，一般是，1、首先設定初時權值，如果無先驗的知識，初時權值可設定為隨機值。2、接著輸入樣本數據進行學習，參照評價標準進行評判。3、如果達到要求，就停止學習，否則按照給定的學習法則調整權值，繼續進行學習，直到取得滿意的結果為止。神經網絡的學習規則，主要包括誤差傳播式學習、聯想學習、競爭性（Competitive）學習和基于知識的學習等。各種學習規則都是以Hebb規則為基礎的。ANN最廣泛的學習規則是誤差后向傳遞（errorbackpropagation），是二十世紀八十年代中期引發多層神經網絡的興趣再度空前高漲的一個主要原因無監督學習規則，赫布認為神經網絡的學習過程最終是發生在神經元之間的突觸部位，突觸的聯結強度隨著突觸前后神經元的活動而變化，變化的量與兩個神經元的活性之和成正比。Hebb學習規則是一個無監督學習規則，這種學習的結果是使網絡能夠提取訓練集的統計特性，從而把輸入信息按照它們的相似性程度劃分為若干類。后傳法是一種遞歸梯度下降法，它通過向下移動誤差曲線的梯度，使得系統的誤差平方和達到最小。多元線性回歸模型可以表示成一個簡單的二層前饋網絡，它具有線性傳遞函數F(a)=a傳統統計模型與神經網絡如果輸出的滯后值作為網絡的輸入，就得到AR(d)時間序列方程

盡管ANN可以是通用的近似形式，但最優網絡結構卻不是自動確定的。在任何金融應用中，開發一個最優網絡，需要ANN模型的選擇（1）識別相關的輸入和輸出；（2）選擇適當的網絡結構，包括隱蔽層和隱蔽層單元的必要個數；（3）使用適當的模型評價準則。網絡輸入和輸出變量的選擇及數據的質量是ANN應用成功的關鍵，在實踐中，通常用模型的自變量作為網絡的輸入，而用因變量作為網絡的輸出。ANN的輸入和輸出如果有超乎要求的更多的自變量包括在網絡的輸入中，則要用到降維方法。1、主成分分析2、因子分析3、逐步回歸方法為了將輸入和輸出中量綱的影響減至最小，同時又提高學習算法的有效性，通常對數據集進行標準化處理.ANN的輸入和輸出數據的質量以及數據集代表總體的適當程度是非常重要的。培育和檢驗一個ANN，具有足夠的數據也是很重要的。ANN的結構確定隱蔽層和隱蔽層單元的必要個數輸入和輸出確定ANN的結構由于二層ANN能力的局限性,經常使用有至少一個中間層的網絡Cybenko（1988)至多兩個隱敝層一個隱敝層以任意準的精度近似足以近似一組特殊的函數任何連續函數ANN的結構隱蔽單元的個數k的選擇k值太小k值太大ANN不能按要求的準確度近似y=f(x)過度擬合1、分析法，即用代數或統計分析來確定先驗的隱蔽單元個數。2、結構方法，根據需要一個接一個地構筑隱蔽層單元；3、網絡修剪（networkpruning）法，以相反方向運作，修剪網絡并去除掉“多余的”或靈敏度最低的連接。已經提出了幾個經驗法則；例如，連接的個數不能少于0.1T，隱蔽單元的個數是（T-1）或log2T，這里T是樣本容量。ANN的評價準則（1）均方誤差（MSE）和均方根誤差（RMSE）：（2）平均絕對誤差（MAE）和平均絕對百分誤差（MAPE）：（3）可決系數（）（4）Akaike信息準則（AIC）：AIC調整MSE以說明模型的復雜性（5）7）Schwarz信息準則（SIC），或貝葉斯信息準則（BIC）：皮爾遜（Pearson）相關系數（ρ）Theil不等式系數（U）預測隨機復雜性（PSC）方向準確度（DA）和混淆比率(confusionrate,CR）：ANN中的統計推斷很少有關于ANN應用的實證研究報告了置信區間或進行假設檢驗，這是因為ANN通常不具備古典的統計性質。Lebaron和Weigend（1994）提出自助(bootstrap)方法確定神經網絡的質量可靠性計算量非常大提供了更穩健的預測

構建模型時需注意的兩個方面收斂性和局部極小值：對于多層網絡，誤差曲面可能含有多個不同的局部極小值，梯度下降可能陷入這些極小值中的任何一個。因些對于多層網絡，反向傳播算法僅能保證收斂到誤差E的某個局部極小值，不一定收斂到全局最小誤差。過度擬合問題：如果權值調整迭代次數足夠多，反向傳播算法經常會產生過度復雜的決策面，擬合了訓練數據中的噪聲和訓練樣例中沒有代表性的特征。這個過度擬合問題與決策樹學習中的過度擬合問題相似。收斂性和局部極小值使用同樣的數據訓練多個網絡，但用不同的隨機權值初始化每個網絡。如果不同的訓練產生不同的局部極小值，那么分離的驗證集合性能最好的那個網絡將被選中。保留所有的網絡，并且把它們當作一個網絡“委員會”，它們的輸出是每個網絡輸出的平均值（可能加權）。過度擬合問題過度擬合問題幾種解決反向傳播中的過度擬合問題的方法：權值衰減（weightdecay）：它在每次迭代過程中以某個小因子降低每個權值。這等效于修改E的定義，加入一個與網絡權值的總量相應的懲罰項。此方法的動機在保持權值較小，從而使學習過程向著復雜決策面的反方向偏置。提供驗證數據（validationdata）：確定權值調整迭代次數，使用在驗證集合上產生最小誤差的迭代次數。過度擬合問題k-fold交叉驗證(k-foldcross-validation)方法：進行k次不同的交叉驗證，每次使用數據的不同分割作為訓練集合和驗收證集合，然后對結果進行平均。m個實例m/km/km/k訓練集驗證集k次試驗每次試驗得到一個最佳性能的迭代次數i人工神經網絡的特點和優越性：具有自學習功能；具有聯想存儲功能；具有高速尋找優化解的能力。人工神經網絡的缺點：訓練時間長；沒有最優算法可以確保得到全局最小值；ANN的統計性質通常難以獲得，因而不能進行統計推斷；培育出的ANN模型難以解釋。金融應用領域——期權定價、破產預測、匯率預測、股票市場ANN金融應用領域:期權定價Hutchinson，Lo和Poggio（1994）完成了神經網絡進行期權定價的第一個著名的研究，揭示了神經網絡定價公式的潛在價值。結果，網絡公式在樣本外期權定價和delta套期保值的應用上被證實是成功的。而后，這個網絡被用來對1987年－1991年的S&P500期貨期權進行定價和delta套期保值。結果顯示神經網絡優于Black-Scholes公式。C=S·N(d1)-X·exp(-r·T)·N(d2)其中:d1=[ln(S/X)+(r+σ^2/2)T]/(σ√T)d2=d1-σ·√TC—期權初始合理價格X—期權執行價格S—所交易金融資產現價T—期權有效期r—連續復利計無風險利率σ—股票連續復利（對數）回報率的年度波動率（標準差）N(d1)，N(d2）—正態分布變量的累積概率分布函數，ANN金融應用領域:破產預測人們在破產預測方面已經做了大量的研究工作，使用的標準工具是判別分析（DA）和logit模型，Tam和Kiang（1992）在用19個金融比率對1985年到1987年德克薩斯州銀行倒閉進行預測時，將神經網絡方法和線性判別分析、logit模型及其他方法進行了比較。使用jackknife方法得到錯判率的無偏估計。對原始的后傳算法進行修正，使之包括銀行倒閉的先驗概率和錯判成本，在I型錯誤和II型錯誤之間均衡。實證研究結果顯示神經網絡比其他可選擇方法具有更高的預測準確度，而且有一個隱蔽層的神經網絡優于二層網絡。

匯率的不可預測性廣為人知。多數不可預測的結論是由線性時間序列方法得出的，因而匯率的線性不可預測性可能應歸于線性模型的局限性。

自從1980年以來，已經發現了非線性的證據。作為一種函數形式靈活的非線性模型，ANN可以提高預測的準確度。ANN金融應用領域:匯率預測Kuan和Liu（1995）研究神經網絡在五種貨幣對美元匯率的樣本外預測能力，發現對日元和英鎊而言ANN被發現具有顯著的市場同步能力英鎊、加拿大元、德國馬克、日元和瑞士法郎加拿大元和德國馬克而言，所選的網絡僅有二流的表現Diebold和Nason（1990）ANN的匯率變化預測方向的預測很有用處，不便于進行數量大小的預測由于ANN具有歸納、適應和穩健的性質，大量的研究致力于將ANN用于預測股票收益。但迄今為止取得的成功還相當有限。ANN金融應用領域:股票市場預測Chuah（1993）紐約證券交易所股票指數收益率預測能力檢驗顯示網絡的預測誤差和基準線性模型沒有顯著的差異，而且網絡不具有市場同步能力Refenes，Zapranis和Francis（1995）研究表明在股票收益的多因素動態模型，即APT的動態形式中，神經網絡是線性回歸的上好替代55雖然ANN在期權定價和分類問題上已經取得了很大的成功，但ANN在匯率預測和股票市場預測方面的成果就沒有那么引人注目了。ANN金融方面應用股票市場匯率預測期權定價破產預測神經網絡的實證分析ANN的實例分析1.公司財務預警預測——分類問題2.上證指數的開盤指數預測——時間序列問題1.公司財務預警預測背景公司財務預警系統是為了防止公司財務系統偏離預期目標而建立的報警系統，具有針對性和預測性等特點。它通過公司的各項財務指標來綜合評價并預測公司財務狀況、發展趨勢和變化，為決策者科學決策提供支持。

財務危機預警指標體系中的指標包括盈利能力指標、償還能力指標、成長能力指標、線性流量指標等。ST制度針對的對象是出現財務狀況或其他狀況異常的上市公司，這類公司的股票交易會被進行特別處理，簡稱前冠以“ST”，稱為ST股。數據來源

以2007年與2008年我國滬深兩市首次被ST的38家制造業上市公司對象，從中選取30家ST公司與30家正常的制造業公司作為訓練樣本，剩下的的8家與8家正常的制造業公司作為測試樣本。1.公司財務預警預測數據集變量因變量：公司類型（分類變量：0表示正常，1表示ST）自變量：剩下的26個財務指標（盈利能力、償還能力、成長能力流動能力等）1.公司財務預警預測數據預處理：

變量中心標準化1.公司財務預警預測人工神經網絡分類模型——R語言代碼實現函數nnet介紹：單層的前饋反向傳播神經網絡算法nnet(formula,data,subset,size,rang,linout=F,decay,maxit=200)主要的參數說明:formula:公式data:數據集subset:給出數據集要訓練的樣本下標size:隱層結點數range:初始化隨機權重的范圍linout:值為F表示分類方法，值為T表示回歸方法decay,:值是遞減的(可以防止過擬合)maxit,最大迭代次數;注：對于其他參數設置，參考R的help文檔1.公司財務預警預測人工神經