大數據技術張瑞芝計算機科學與技術16081200210009DeeplearningYannLeCun,YoshuaBengio,GeoffreyHinton

SupervisedlearningBackpropagationtotrainmultilayerarchitecturesConvolutionalneuralnetworksImageunderstandingwithdeepconvolutionalnetworksDistributedrepresentationsandlanguageprocessingRecurrentneuralnetworksThefutureofdeeplearningSupervisedlearning監督學習是利用一組已知類別的樣本調整分類器的參數，并使其達到所要求性能的過程，監督學習完成了從標記的訓練數據來實現分類功能的機器學習任務。傳統的方法是通過手工方法來設計良好的特征提取器，這需要大量的工程技術和專業領域知識。深度學習的關鍵優勢在于使用了通用的學習過程從數據中學到良好的特征，從而避免了傳統方法中所需的人工工程。Backpropagationtotrainmultilayerarchitectures通過反向傳播算法來訓練多層神經網絡反向傳播算法（Backpropagation）是目前用來訓練人工神經網絡的最常用且最有效的算法。Convolutionalneuralnetworks卷積神經網絡是一種前饋神經網絡，它包括卷積層和池化層，它的人工神經元可以響應一定覆蓋范圍內的周圍單元，對大型圖像的處理表現得很出色。在BP神經網絡中，每一層都是全連接的，這使訓練變得困難。而CNN的卷積層每個節點與上一層某個區域通過卷積核連接，而與這塊區域以外的區域無連接。但每個節點對應不同的卷積核導致訓練量依然很大。為此，CNN提出了權值共享概念，即同一個卷積層內，所有神經元的權值是相同的。池化層夾在卷積層中間，其主要作用是逐步壓縮減少數據和參數的數量，也在一定程度上減少過擬合現象。其功能是把上一層輸入數據的某塊區域壓縮成一個值。Imageunderstandingwithdeepconvolutionalnetworks左圖為人工智能專家李飛飛利用大數據來訓練計算機視覺，通過深度CNN來教計算機理解圖片。而且李飛飛共享了ImageNet。作為和大腦神經原理類似的卷積神經網絡，使用ImageNet進行訓練是非常合適的選擇。Distributedrepresentationsandlanguageprocessing要將自然語言交給機器學習中的算法來處理，通常需要首先將語言數學化，詞向量就是用來將語言中的詞進行數學化的一種方式。DistributedRepresentation的基本想法是：通過訓練將某種語言中的每一個詞映射成一個固定長度的短向量，將所有這些向量放在一起形成一個詞向量空間，而每一個向量則為該空間中的一個點，在這個空間上引入“距離”，則可以根據詞之間的距離來判斷它們之間的（詞法、語義上的）相似性了。下面的左、右兩幅圖中五個詞在兩個向量空間中的相對位置差不多，這說明兩種不同語言對應向量空間的結構之間具有相似性，從而進一步說明了在詞向量空間中利用距離刻畫詞之間相似性的合理性。Recurrentneuralnetworks在RNN中，輸入層和來自序列中上一元素隱藏層的信號共同作用于當前的隱藏層數據挖掘與醫學數據資源開發利用醫學數據資料的狀況數據挖掘的應用數據挖掘的方法以及具體應用聚類分析（ClusteringAnalysis）關聯分析（CorrelationAnalysis）決策樹（DecisionTree）

結論聚類分析（ClusteringAnalysis）聚類分析是對輸入集中的記錄進行分類。根據一定的規則，合理地進行分組或聚類，并用顯式或者隱式的方法描述不同的類別。聚類分析是一種探索性的統計分析方法，是在沒有先驗知識的情況下對數據資料進行分類，其實質就是按照資料的內在相似或相關程度將數據分為若干個類別，以使得類別內數據的“差異”盡可能小，類別間“差異”盡可能大。關聯分析（CorrelationAnalysis）表示數據庫中一組對象之間某種關聯關系的規則，挖掘一個事件和其他事件之間依賴或關聯的知識。如果兩項或多項屬性之間存在關聯，那么其中一項的屬性值就可以依據其他屬性值進行預測。關聯規則的挖掘問題就是在給定的數據庫中，找出滿足最小支持度和最小置信度的關聯規則。關聯規則有如下優點：可以產生清晰有用的結果；支持間接數據挖掘；可以處理變長的數據；計算的消耗量可以預見。決策樹（DecisionTree）首先通過一批已知的訓練數據建立一顆決策樹；然后，利用建好的決策樹，對數據進行預測。這是一種用樹枝狀展現數據受各變量影響情況的分析預測模型，根據對目標變量產生效應的不同，而制定分類規則，它是建立在信息論基礎之上的對數據進行分類的一種方法。決策樹的建立過程是數據規則的生成過程，因此這種方法實現了數據規則的可視化，其輸出結果容易理解，精確度較好，效率較高，因而較為常用。結論聚類分析、關聯分析以及決策樹是醫學數據挖掘中的主要方法，三者的結合，可以對某一類疾病進行