小腦(xiǎonǎo)模型神經(jīng)網(wǎng)絡(luò)

（CMAC）第一頁(yè)，共二十一頁(yè)。小腦模型神經(jīng)網(wǎng)絡(luò)PART01PART02PART03PART04CMAC網(wǎng)絡(luò)(wǎngluò)的基本思想CMAC網(wǎng)絡(luò)的結(jié)構(gòu)模型與工作(gōngzuò)原理仿真(fǎnɡzhēn)示例總結(jié)目錄第二頁(yè)，共二十一頁(yè)。01CMAC網(wǎng)絡(luò)(wǎngluò)的基本思想肌肉、四肢、關(guān)節(jié)、皮膚……感受信息反饋信息記憶存儲(chǔ)器控制信號(hào)驅(qū)動(dòng)聯(lián)想有差異調(diào)整1975，J.S.Albus小腦模型神經(jīng)網(wǎng)絡(luò)（CMAC-CerebellarModelArticulationController）局部逼近神經(jīng)網(wǎng)絡(luò)：網(wǎng)絡(luò)輸入(shūrù)空間的某個(gè)局部區(qū)域只有少數(shù)幾個(gè)連接權(quán)影響網(wǎng)絡(luò)輸出第三頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理輸入空間U由所有可能的輸入向量Ui組成,虛擬聯(lián)想空間Ac是一個(gè)虛擬的空間，不占用物理存儲(chǔ)，CMAC網(wǎng)絡(luò)將其接受到的任何輸入,映射到聯(lián)想存儲(chǔ)器Ac中的c個(gè)單元(dānyuán)。物理存儲(chǔ)空間Ap中存儲(chǔ)著網(wǎng)絡(luò)的權(quán)值參數(shù)，Ac中的c個(gè)單元在物理存儲(chǔ)空間Ap中找到對(duì)應(yīng)的權(quán)值參數(shù)，做求和得到最終的網(wǎng)絡(luò)輸出。

重點(diǎn)(zhòngdiǎn)：兩個(gè)映射第一次映射：U->Ac第二次映射：Ac->Ap

第四頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理從輸入空間U至虛擬存儲(chǔ)器AC的映射n維輸入向量：量化（離散化）：映射至AC的c個(gè)存儲(chǔ)單元：映射(yìngshè)

映射法則可以根據(jù)實(shí)際情況選取，只需要滿(mǎn)足一下規(guī)則即可。

輸入空間鄰近兩點(diǎn)（一點(diǎn)為一個(gè)n維輸入向量），在A(yíng)c中有b個(gè)重疊單元被激勵(lì)。距離越近，重疊越多；距離遠(yuǎn)的點(diǎn)，在A(yíng)c中不重疊第五頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理量化

一般來(lái)說(shuō)，實(shí)際應(yīng)用時(shí)輸入向量的各分量來(lái)自不同的傳感器，其值多為模擬量，而Ac中每個(gè)元素只取0或1兩種值。為使輸入空間的點(diǎn)映射到虛擬聯(lián)想(liánxiǎng)空間Ac的離散點(diǎn)，必須先將模擬量U量化，使其成為輸入空間的離散點(diǎn)。

第六頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理

哈希映射

哈希映射是壓縮稀疏矩陣的一個(gè)常用技術(shù)。當(dāng)在一個(gè)大的存儲(chǔ)區(qū)域(qūyù)稀疏地存儲(chǔ)一些數(shù)據(jù)時(shí)，可以通過(guò)哈希映射將其壓縮到小的存儲(chǔ)位置例：除留余數(shù)法：

y＝f(x)＝x％k

(k決定了壓縮率)第七頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理實(shí)際映射Ac→Ap

這個(gè)過(guò)程最簡(jiǎn)單的實(shí)現(xiàn)(shíxiàn)方法就是線(xiàn)性一一映射。輸出(shūchū)：其中代入可得：？第八頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理權(quán)值調(diào)整(tiáozhěng)

權(quán)值調(diào)整指標(biāo)：誤差平均分配：第九頁(yè)，共二十一頁(yè)。02CMAC網(wǎng)絡(luò)(wǎngluò)的結(jié)構(gòu)模型與工作原理權(quán)值調(diào)整(tiáozhěng)

經(jīng)過(guò)數(shù)次迭代后，最初的存儲(chǔ)單元已經(jīng)包含了一些先前學(xué)習(xí)的知識(shí)(zhīshi)。每一個(gè)存儲(chǔ)單元學(xué)習(xí)的歷史不同，所以這些存儲(chǔ)單元也不應(yīng)有相同的可信度。無(wú)視這些差異，所有被激活的存儲(chǔ)單元都獲得相同的校正誤差，那么那些由未學(xué)習(xí)狀態(tài)產(chǎn)生的誤差將對(duì)先前學(xué)習(xí)的信息產(chǎn)生“腐蝕”。

基于信度分配的CMAC（CA-CMAC）神經(jīng)網(wǎng)絡(luò)

第十頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

用CMAC逼近(bījìn)sin函數(shù)采用一維輸入一維輸出結(jié)構(gòu)的CMAC逼近sin采用c=6，鄰近兩點(diǎn)重疊單元b=5采用線(xiàn)性化函數(shù)實(shí)現(xiàn)U->Ac的虛擬(xūnǐ)映射s(k)=round((u(k)-xmin)/(xmax-xmin)*M)采用一一映射的方式實(shí)現(xiàn)Ac->Ap的實(shí)際映射輸入訓(xùn)練樣本：train_in=0:36:324共10個(gè)樣本第十一頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

量化等級(jí)(děngjí)：40訓(xùn)練樣本個(gè)數(shù)：10學(xué)習(xí)率：1第十二頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十三頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十四頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十五頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十六頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十七頁(yè)，共二十一頁(yè)。03仿真(fǎnɡzhēn)實(shí)例

第十八頁(yè)，共二十一頁(yè)。04總結(jié)(zǒngjié)

網(wǎng)絡(luò)非線(xiàn)性：CMAC的每個(gè)神經(jīng)元的輸入輸出是一種線(xiàn)性關(guān)系，但其總體上可看做一種表達(dá)非線(xiàn)性映射的表格系統(tǒng)。學(xué)習(xí)速度快：每次修正的權(quán)值少，在保證函數(shù)非線(xiàn)性逼近性能的前提下，學(xué)習(xí)速度快，適合于實(shí)時(shí)(shíshí)控制；局部泛化能力：相近輸入產(chǎn)生相近輸出，不同輸入給出不同輸出，避免了BP網(wǎng)絡(luò)的局部最優(yōu)問(wèn)題；第十九頁(yè)，共二十一頁(yè)。謝謝(xièxie)第二十頁(yè)，共二十一頁(yè)。內(nèi)容(nèiróng)總結(jié)小腦模型神經(jīng)網(wǎng)絡(luò)

（CMAC）。1975，J.S.Albus小腦模型神經(jīng)網(wǎng)絡(luò)。局部逼近神經(jīng)網(wǎng)絡(luò)：網(wǎng)絡(luò)輸入空間的某個(gè)局部區(qū)域只有(zhǐyǒu)少數(shù)幾個(gè)連接權(quán)影響網(wǎng)絡(luò)輸出。輸入空間鄰近兩點(diǎn)（一點(diǎn)為