信息技術課件卷積網絡人工智能解讀

卷積神經網絡是如何工作的！卷積神經網絡可以用于可擴展的無監督學習

ConvolutionalDeepBeliefNetworksforScalableUnsupervisedLearningofHierarchicalRepresentations

HonglakLee,RogerGrosse,RajeshRanganath,AndrewY.Ng用于訓練玩游戲

PlayingAtariwithDeepReinforcementLearning.

VolodymyrMnih,KorayKavukcuoglu,DavidSilver,AlexGraves,IoannisAntonoglou,DaanWierstra,MartinRiedmiller

RobotLearningManipulationActionPlansby“Watching”UnconstrainedVideosfromtheWorldWideWeb.

YezhouYang,CorneliaFermuller,YiannisAloimonos一個游戲卷積網絡:X和OXorOCNN給你一個圖片你能分辨出哪個是X哪個是O么？一個二維的像素數組比如：CNNXCNNO復雜圖形：CNNXCNNOtranslationscalingweightrotation計算機認知困難=?計算機看到了什么？=?計算機看到了什么從圖像表面看=x卷積神經匹配過程===特征與圖像匹配卷積：背后的數學原理別慌卷積：配對背后的數學邏輯卷積層與圖像像素一一對應將每個像素與卷積層相乘加起來除以和卷積層相同像素數卷積：配對背后的數學邏輯1x1=1卷積：配對背后的數學邏輯1x1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯1x1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯-1x-1=1卷積：配對背后的數學邏輯1x1=1卷積：配對背后的數學邏輯

卷積：配對背后的數學邏輯1x1=1卷積：配對背后的數學邏輯-1x1=-1卷積：配對背后的數學邏輯卷積：配對背后的數學邏輯

.55卷積：嘗試所有的可能性卷積：嘗試所有的可能性====卷積層一個圖像透過某些特征卷積變化形成多個新圖卷積層一個圖像透過某些特征卷積變化形成多個新圖池化：縮小圖像選取窗口大小選取步幅將卷積過的圖像步入窗口選取窗口中最大的數字池化maximum池化maximum池化maximum池化maximum池化最大值池化最大池化池化層將圖像變小標準化1、通過稍微調整每個值，避免數學運算中斷。2、把所有的負變為零。線性整流單元RectifiedLinearUnits(ReLUs)線性整流單元RectifiedLinearUnits(ReLUs)線性整流單元RectifiedLinearUnits(ReLUs)線性整流單元RectifiedLinearUnits(ReLUs)線性整流單元RectifiedLinearUnits(ReLUs)圖像變成沒有負值的圖像層疊一個的輸出變成了另一個的輸入ConvolutionReLUPooling深度學習多層相疊ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPooling全連接層每一個值變成線性向量全連接層每個值可以進行投票，投票取決于每個向量的權值XO全連接層每個值可以進行投票，投票依靠每個值的權值XO全連接層X與O的權值XOXO全連接層X與O的權值XO.92全連接層X與O的權值XO.92全連接層X與O的權值XO.92.51全連接層X與O的權值XO.92.51全連接層X與O的權值XO全連接層X與O的權值XO全連接層X與O的權值把他們放在一起一組像素變更成一組投票值ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51這數字哪來的？問：所有的魔法數字是從哪里來的？卷積層的特征全連接層中的投票權A：反向傳播反向傳播錯誤=正確答案-實際答案ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51反向傳播ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51反向傳播ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51反向傳播ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51反向傳播ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51反向傳播ConvolutionReLUPoolingConvolutionReLUConvolutionReLUPoolingFullyconnectedFullyconnectedXO.92.51梯度下降對于每個特征像素和投票權重，上下調整一點，看看錯誤是如何變化的。權重錯誤weighterror梯度下降對于每個特征像素和投票權重，上下調整一點，看看錯誤是如何變化的。除了以上說明，CNN還是有些很難解釋和學習的面向。CNN的設計者需要做很多決定，包括以下問題。? 每個卷積層中該有多少特徵？每個特徵中該有多少像素？? 每個池化層中的窗口大小為何？間隔又該多長？? 每個額外的全連結層該有多少隱藏神經元（選項）？ImagesColumnsofpixelsRowsofpixelsSoundTimestepsIntensityineachfrequencybandTextPositioninsentenceWordsindictionar