斯坦福大學(xué)2014機器學(xué)習(xí)教程個人筆記（V4.3）摘要本筆記是針對斯坦福大學(xué)2014年機器學(xué)習(xí)課程視頻做的個人筆記黃海廣haiguang2000@qq：10822884最后修改：2017-06-08斯坦福大學(xué)2014機器學(xué)習(xí)教程中文筆記課程概述MachineLearning（機器學(xué)習(xí)）是研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能。它是人工智能的核心，是使計算機具有智能的根本途徑，其應(yīng)用遍及人工智能的各個領(lǐng)域，它主要使用歸納、綜合而不是演譯。在過去的十年中，機器學(xué)習(xí)幫助我們自動駕駛汽車，有效的語音識別，有效的網(wǎng)絡(luò)搜索，并極大地提高了人類基因組的認(rèn)識。機器學(xué)習(xí)是當(dāng)今非常普遍，你可能會使用這一天幾十倍而不自知。很多研究者也認(rèn)為這是最好的人工智能的取得方式。在本課中，您將學(xué)習(xí)最有效的機器學(xué)習(xí)技術(shù)，并獲得實踐，讓它們?yōu)樽约旱墓ぷ鳌８匾氖牵銜粌H得到理論基礎(chǔ)的學(xué)習(xí)，而且獲得那些需要快速和強大的應(yīng)用技術(shù)解決問題的實用技術(shù)。最后，你會學(xué)到一些硅谷利用機器學(xué)習(xí)和人工智能的最佳實踐創(chuàng)新。本課程提供了一個廣泛的介紹機器學(xué)習(xí)、數(shù)據(jù)挖掘、統(tǒng)計模式識別的課程。主題包括：（一）監(jiān)督學(xué)習(xí)（參數(shù)/非參數(shù)算法，支持向量機，核函數(shù)，神經(jīng)網(wǎng)絡(luò)）。（二）無監(jiān)督學(xué)習(xí)（聚類，降維，推薦系統(tǒng)，深入學(xué)習(xí)推薦）。（三）在機器學(xué)習(xí)的最佳實踐（偏差/方差理論；在機器學(xué)習(xí)和人工智能創(chuàng)新過程）。本課程還將使用大量的案例研究，您還將學(xué)習(xí)如何運用學(xué)習(xí)算法構(gòu)建智能機器人（感知，控制），文本的理解Web搜索，反垃圾郵件），計算機視覺，醫(yī)療信息，音頻，數(shù)據(jù)挖掘，和其他領(lǐng)域。本課程需要10周共18節(jié)課，相對以前的機器學(xué)習(xí)視頻，這個視頻更加清晰，而且每課都有ppt課件，推薦學(xué)習(xí)。本人是中國海洋大學(xué)2014級博士生，2014年剛開始接觸機器學(xué)習(xí)，我下載了這次課程的所有視頻和課件給大家分享。中英文字幕來自于/course/ml,主要是教育無邊界字幕組翻譯，本人把中英文字幕進(jìn)行合并，并翻譯剩余字幕，對視頻進(jìn)行封裝，歸類，并翻譯了課程目錄，做好課程索引文件，希望對大家有所幫助。部分視頻中文字幕由中國海洋大學(xué)的博士生翻譯。視頻已經(jīng)翻譯完畢，如果下載了視頻，可以直接在文檔中打開視頻，內(nèi)嵌中英文字幕，推薦使用potplayer。這篇中文筆記，主要是根據(jù)視頻內(nèi)容和中文字幕以及ppt來制作，部分來源于網(wǎng)絡(luò)，如“小小人_V"的筆記，并持續(xù)更新。視頻下載鏈接：http://pan.baidu.eom/s/1pKLATJl密碼：xn4w本人水平有限，如有公式、算法錯誤，請及時指出，發(fā)郵件給我，也可以加我qq。今日發(fā)現(xiàn)這個筆記被下載超過3萬次，應(yīng)該說這個筆記有點用，我發(fā)現(xiàn)以前一些翻譯小錯誤，進(jìn)行了修改，以免誤導(dǎo)初學(xué)者。黃海廣2017-6-7夜文檔修改歷史版本號版本日期修改總結(jié)修訂人1.02014.12.16創(chuàng)建初稿黃海廣1.12014.12.31修改黃海廣2.02015.02.17修改黃海廣2.12015.02.23修改黃海廣2.22015.03.02修改黃海廣2.32015.03.14修改一些錯誤，增加了第十章的一些內(nèi)容黃海廣2.42015.05.02修改第十二章一些錯誤黃海廣2.52015.05.13補充第九章部分內(nèi)容黃海廣3.02016.01.11增加第五章OCTAVE操作內(nèi)容黃海廣3.12016.01.15修改部分錯誤黃海廣3.22016.02.15補充第二章部分內(nèi)容黃海廣3.32016.02.19補充第六章內(nèi)容黃海廣4.02016.02.24修改第十一章一些錯誤黃海廣4.12016.03.20補充第四章部分內(nèi)容黃海廣4.22016.03.28補充第十五早、十八早的部分內(nèi)容黃海廣4.32017.06.08修改了一些翻譯錯誤黃海廣#十九、總結(jié)(Conclusion)總結(jié)和致謝參考視頻:19-1-SummaryandThankYou(5min).mkv歡迎來到《機器學(xué)習(xí)》課的最后一段視頻。我們已經(jīng)一起學(xué)習(xí)很長一段時間了。在最后這段視頻中，我想快速地回顧一下這門課的主要內(nèi)容，然后簡單說幾句想說的話。作為這門課的結(jié)束時間，那么我們學(xué)到了些什么呢？在這門課中，我們花了大量的時間介紹了諸如線性回歸、邏輯回歸、神經(jīng)網(wǎng)絡(luò)、支持向量機等等一些監(jiān)督學(xué)習(xí)算法，這類算法具有帶標(biāo)簽的數(shù)據(jù)和樣本，比如x(i)、y(i)。然后我們也花了很多時間介紹無監(jiān)督學(xué)習(xí)。例如K-均值聚類、用于降維的主成分分析，以及當(dāng)你只有一系列無標(biāo)簽數(shù)據(jù)x(i)時的異常檢測算法。當(dāng)然，有時帶標(biāo)簽的數(shù)據(jù)，也可以用于異常檢測算法的評估。此外，我們也花時間討論了一些特別的應(yīng)用或者特別的話題，比如說推薦系統(tǒng)。以及大規(guī)模機器學(xué)習(xí)系統(tǒng)，包括并行系統(tǒng)和映射化簡方法，還有其他一些特別的應(yīng)用。比如，用于計算機視覺技術(shù)的滑動窗口分類算法。最后，我們還提到了很多關(guān)于構(gòu)建機器學(xué)習(xí)系統(tǒng)的實用建議。這包括了怎樣理解某個機器學(xué)習(xí)算法是否正常工作的原因，所以我們談到了偏差和方差的問題，也談到了解決方差問題的正則化，同時我們也討論了怎樣決定接下來怎么做的問題，也就是說當(dāng)你在開發(fā)一個機器學(xué)習(xí)系統(tǒng)時，什么工作才是接下來應(yīng)該優(yōu)先考慮的問題。因此我們討論了學(xué)習(xí)算法的評價法。介紹了評價矩陣，比如：查準(zhǔn)率、召回率以及F1分?jǐn)?shù)，還有評價學(xué)習(xí)算法比較實用的訓(xùn)練集、交叉驗證集和測試集。我們也介紹了學(xué)習(xí)算法的調(diào)試，以及如何確保學(xué)習(xí)算法的正常運行，于是我們介紹了一些診斷法，比如學(xué)習(xí)曲線，同時也討論了誤差分析、上限分析等等內(nèi)容。所有這些工具都能有效地指引你決定接下來應(yīng)該怎樣做，讓你把寶貴的時間用在刀刃上。現(xiàn)在你已經(jīng)掌握了很多機器學(xué)習(xí)的工具，包括監(jiān)督學(xué)習(xí)算法和無監(jiān)督學(xué)習(xí)算法等等。但除了這些以外，我更希望你現(xiàn)在不僅僅只是認(rèn)識這些工具，更重要的是掌握怎樣有效地利用這些工具來建立強大的機器學(xué)習(xí)系統(tǒng)。所以，以上就是這門課的全部內(nèi)容。如果你跟著我們的課程一路走來，到現(xiàn)在，你應(yīng)該已經(jīng)感覺到自己已經(jīng)成為機器學(xué)習(xí)方面的專家了吧？我們都知道，機器學(xué)習(xí)是一門對科技、工業(yè)產(chǎn)生深遠(yuǎn)影響的重要學(xué)科，而現(xiàn)在，你已經(jīng)完全具備了應(yīng)用這些機器學(xué)習(xí)工具來創(chuàng)造偉大成就的能力。我希望你們中的很多人都能在相應(yīng)的領(lǐng)域，應(yīng)用所學(xué)的機器學(xué)習(xí)工具，構(gòu)建出完美的機器學(xué)習(xí)系統(tǒng)，開發(fā)出無與倫比的產(chǎn)品和應(yīng)用。并且我也希望你們通過應(yīng)用機器學(xué)習(xí)，不僅僅改變自己的生活，有朝一日，還要讓更多的人生活得更加美好！我也想告訴大家，教這門課對我來講是一種享受。所以，謝謝大家！最后，在結(jié)束之前，我還想再多說一點：那就是，也許不久以前我也是一個學(xué)生，即使是現(xiàn)在，我也盡可能擠出時間聽一些課，學(xué)一些新的東西。所以，我深知要堅持學(xué)完這門課是很需要花一些時間的，我知道，也許你是一個很忙的人，生活中有很多很多事情要處理。正因如此，你依然擠出時間來觀看這些課程視頻。我知道，很多視頻的時間都長達(dá)數(shù)小時，你依然花了好多時間來做這些復(fù)習(xí)題。