看作有向圖的

神經網絡主講人：陳俊龍小組成員：陳日暢、鄭啟、譚玉堃、周財、毛杰、周桂獒、孫強、安軍、秦朝、周正、何春燕、黃靜、李媛、張越、張知先12概念信息流圖目錄

/contents21345樹網絡線性表圖神經Partone第一章概念線性表：

線性表（linearlist）是具有相同類型的n（n≥0）個數據元素a0，a1，…an-1組成的有限序列。其中n稱為線性表的長度，當n=0時稱為空線性表，n>0時稱為非空表。在線性表中，數據元素之間僅有線性關系，即每個數據元素只有一個直接前驅和一個直接后繼。從線性表的定義可以看出線性表的特征：（1）有且僅有一個開始結點(表頭結點)a0，它沒有直接前驅，只有一個直接后繼;（2）有且僅有一個終端結點(表尾結點)an-1，它沒有直接后繼，只有一個直接前驅;（3）其它結點都有一個直接前驅和直接后繼；（4）元素之間為一對一的線性關系。特征二級標題頁樹：樹(Tree)是n(n≥0)個結點的有限集T，T為空時稱為空樹，否則它滿足如下兩個條件：(1)有且僅有一個特定的稱為根(Root)的結點；(2)其余的結點可分為m(m≥0)個互不相交的子集Tl，T2，…，Tm，其中每個子集本身又是一棵樹，并稱其為根的子樹(Subree)。特征

樹形結構的邏輯特征可用樹中結點之間的父子關系來描述：（1）樹中任一結點都可以有零個或多個直接后繼(即孩子)結點，但至多只能有一個直接前趨(即雙親)結點。（2）樹中只有根結點無前趨，它是開始結點；葉結點無后繼，它們是終端結點。（3）祖先與子孫的關系是對父子關系的延拓，它定義了樹中結點之間的縱向次序。（4）有序樹中，同一組兄弟結點從左到右有長幼之分。圖：圖（Graph）是一種較線性表和樹更為復雜的數據結構。在線性表中，數據元素之間僅有線性關系，即每個數據元素只有一個直接前驅和一個直接后繼；在樹形結構中，數據元素之間有著明顯的層次關系，雖然每一層上的數據元素可能和下一層中多個元素（孩子）相關，但只能和上一層中一個元素（雙親）相關；而在圖形結構中，結點之間的關系可以是任意的，任意兩個數據元素之間都可能相關。圖在各個領域都有著廣泛的應用,如電路網絡分析、交通運輸、管理與線路的鋪設、印刷電路板與集成電路的布線等眾多直接與圖有關的問題，它們必須用圖的有關方法進行處理；另外像工作的分配、工程進度的安排、課程表的制訂、關系數據庫的設計等許多實際問題。這些技術領域都是把圖作為解決問題的主要數學手段來使用，因此，如何在計算機中表示和處理圖結構，就是計算機科學需研究的一項重要課題。

無向圖一個無向圖G是一個二元組<V,E>即G=<V,E>,其中:①.V是一個非空集合,稱為G的頂點集,V中元素稱為頂點或結點;②.E是無序積V&V的一個多重子集,稱E為G的邊集,E中元素稱為無向邊或簡稱邊。例：給定無向圖G＝<V,E>，其中V＝{v1,v2,v3,v4,v5}，

E={(v1,v1),(v1,v2),(v2,v3),(v2,v3),(v2,v5),(v1,v5),(v4,v5)}.

有向圖一個有向圖D是一個二元組<V,E>即D=<V,E>,其中：①.V同無向圖中的頂點集;②.E是笛卡兒積的多重子集,其元素稱為有向邊,也簡稱邊.例：給定有向圖D=<V,E>，其中V＝{a,b,c,d}，E＝{<a,a>,<a,b>,<a,b>,<a,d>,<c,d>,<d,c>,<c,b>}。

網絡(Network)：

若將圖的每條邊都賦上一個權，則稱這種帶權圖為網絡(Network)。注意：權是表示兩個頂點之間的距離、耗費等具有某種意義的數。【例】下圖就是一個網絡的例子。神經（生物學解釋）

神經（Nerve）是由聚集成束的神經纖維所構成，而神經纖維本身構造是由神經元的軸突外被神經膠質細胞所形成的髓鞘包覆；其中許多神經纖維聚集成束，外面包著由結締組成的膜，就成為一條神經。神經系統主要由三大系統組成，即中樞神經系統、腦神經、脊神經。各系統之間以中樞神經系統為中心，分工協同，共同實現心理功能。第章信號流圖2PARTTWO信號流圖

信號流圖是一個由在一些特定的稱為節點的點之間相連的有向連接（分支）組成的網絡。一個典型的節點j有一個相應的節點信號xj。一個典型的有向連接從節點j開始，到k節點結束。它有相應的傳遞函數或傳遞系數以確定節點k的信號yk依賴于節點j的信號xj的方式。圖形中各部分的信號流動遵循三條基本規則。規則1

信號僅僅沿著定義好的箭頭方向在連接上流動。兩種不同類型的連接可以區別開來：突觸連接它的行為由線性輸入輸出關系決定。具體來說，如圖a所示，節點信號yk由節點信號xj乘以突觸權值wkj產生。激活連接它的行為一般由非線性輸入輸出關系決定。如圖b所示，其中φ(·)為非線性激活函數。規則2

節點信號等于經由連接進入的有關節點的所有信號的代數和。這個規則通過如圖c所示的突觸會聚或扇入的情形來說明。規則3

節點信號沿每個外向連接向外傳遞，此時傳遞的信號完全獨立于外向連接的傳遞函數。神經網絡是由具有互相連接的突觸節點和激活連接構成的有向圖，具有4個主要特征：1.每個神經元可表示為一組線性的突觸連接，一個外部應用偏置，以及可能的非線性激活連接。偏置由和一個固定為+1的輸入連接的突觸連接表示。2.神經元的突觸連接給它們相應的輸入信號加權。3.輸入信號的加權和構成該神經元的誘導局部域。4.激活連接壓制神經元的誘導局部域產生輸出。一個如此定義的有向圖是完全的，這是指它不僅僅描述了神經元間的信號流，也描述了每個神經元內部的信號流。但是當我們的注意集中在神經元之間的信號流上時，可以使用這個圖的一個簡略形式，它省略神經元內部的信號流的細節。這樣的有向圖是局部完全的,它的特征是：1.源節點向圖提供輸入信號。2.每個神經元由稱為計算節點的單個節點表示。3.聯結圖中源節點和計算節點之間的通信連接沒有權值，它們僅僅提供圖中信號流的方向。這樣定義的一個局部完全的有向圖就是所謂的神經網絡結構圖，描述神經網絡的布局。圖11給出了具有m個源節點和一個用于偏置的、