任務五：使用遷移學習完成垃圾分類搭建遷移學習模型人工智能學院—1.任務導入任務總結任務五：使用遷移學習完成垃圾分類工作任務-定義數據生成器人工智能學院—1.任務導入任務總結任務五：使用遷移學習完成垃圾分類工作任務——讀取數據人工智能學院—1.任務導入任務總結任務五：使用遷移學習完成垃圾分類工作任務-訓練遷移學習模型人工智能學院—1.任務導入任務總結任務五：使用遷移學習完成垃圾分類任務知識——遷移學習人工智能學院—任務導入/01任務導入垃圾分類是對垃圾收集處置傳統方式的改革，將垃圾分類與人工智能圖形識別技術相結合，是對垃圾進行有效處置的一種科學管理方法。本任務基于預訓練模型ResNet101網絡，使用ImageNet網絡權重參數，應用遷移學習方法進行垃圾圖片分類。使用遷移學習提高模型特征表達的能力，改進并選擇合適的損失函數和優化方案，使得模型能夠區分不同種類的垃圾，訓練完畢的模型導出后可以部署在嵌入式系統或者APP中。任務目標/02了解遷移學習的基本原理掌握預訓練模型的作用知識目標掌握根據任務的需求凍結預訓練模型的層拓展能力能調用預訓練模型完成模型的搭建能按照需求完成模型凍結的操作能基于需求添加新的模型層能力目標任務目標任務導學/03針對任務搭建了深度學習模型，使用給定的數據集訓練模型，然后將數據輸入模型得到預測結果。隨著深度學習的發展，一些優秀的模型模型例如VGG、inception、MobileNet、ResNet等持續發布，這些模型都有完整的模型和權重參數，同時深度學習在新領域應用不斷涌現。但是在一些新出現的領域中的大量訓練數據非常難得到，這時可以把這些已經訓練好模型的參數和結構遷移到新建的模型中幫助新模型訓練，這個過程就是遷移學習（TransferLearning）。任務導學什么是遷移學習任務知識點/044.任務知識訓練有了一個ResNet101預訓練模型，它可以識別1000種物體。現在有一個新的任務希望訓練一個模型來識別40種不同類別的生活垃圾。這時就凍結ResNet101預訓練模型的卷積核池化層的參數，定義識別垃圾的全連接層，然后使用采集的垃圾圖片訓練加入的全連接層，最后得到一個新的模型。任務知識點遷移學習4.任務知識節省資源和時間：在某些情況下，數據的獲取和標注是非常昂貴和耗時的。通過使用遷移學習，可以使用在大數據集上預訓練的模型，減少在目標任務上訓練模型所需的數據量和時間。在圖像識別任務中，使用在ImageNet上訓練好的模型進行遷移學習，可以極大地減少所需的計算資源和時間。任務知識點為什么要使用遷移學習?4.任務知識提高模型性能：遷移學習可以在數據量有限的情況下提高模型的泛化能力。預訓練模型中已經學習到的特征可以幫助提升在目標任務上的表現。尤其是在目標任務和源任務有相似特征時，遷移學習效果更為顯著。解決小樣本學習問題：對于那些無法獲取大量標注數據的任務，遷移學習提供了一種可行的解決方案。通過利用其他任務的知識，可以在小樣本情況下獲得較好的模型表現。任務知識點為什么要使用遷移學習?4.任務知識應對跨領域問題：在某些場景中，目標任務和源任務可能是不同的領域，但共享某些通用特征。遷移學習能夠在不同領域之間實現知識轉移，提升模型的適應能力。利用深度學習模型的優勢：許多深度學習模型（如卷積神經網絡）在大數據集上的訓練能夠學習到較為通用的特征表示，遷移學習能夠充分利用這些預訓練模型，特別是在卷積層的遷移上效果顯著。任務知識點為什么要使用遷移學習?4.任務知識節省數據和計算資源：減少對大量標注數據的需求：遷移學習可以使用預訓練模型來減少在目標任務上訓練模型所需的數據量。尤其是當標注數據稀缺或昂貴時，遷移學習能大幅降低數據收集和標注的成本。降低計算成本和訓練時間：通過在預訓練模型的基礎上進行微調，而不是從頭開始訓練整個模型，遷移學習可以顯著減少計算成本和時間。提升模型的適應能力：應對不同但相關的任務，遷移學習能夠讓模型在相關但不同的任務上表現更佳。例如，從自然圖像識別遷移到醫學圖像分類。任務知識點遷移學習的優點4.任務知識提高模型性能：更好的泛化能力：遷移學習能提高模型在小數據集上的泛化能力，因為預訓練模型已經學習到了許多有用的特征。處理小樣本學習問題：即使在數據量不足的情況下，遷移學習也能幫助模型取得較好的性能。加速模型開發：快速原型設計，利用現成的預訓練模型可以快速建立初步的模型原型，并進行快速迭代和優化。減少實驗復雜度：由于遷移學習利用了已有的特征表示和結構，開發者可以專注于更高層次的特征設計和調優。任務知識點遷移學習的優點4.任務知識例如使用ResNet101模型實現遷移學習，首先下載預訓練模型，可以直接從tensorflow源碼中獲取此模型的權重參數文件。本任務使用的是ResNetV1101模型的預訓練權重參數，文件名為resnet_v1_101.ckpt任務知識點遷移學習實現步驟-下載預訓練模型4.任務知識遷移學習的核心就是使用已經預訓練模型的參數，在使用需要對模型的參數進行凍結，在新任務中被凍結的參數不參加模型的訓練。可以設置model.trainable=False凍結全部參數。但是如果模型在前幾輪的準確率很低，可以嘗試解凍更多的層，例如凍結基礎模型的前所有層，只解凍最后5層，這樣可以利用預訓練模型的低級特征，同時允許模型在新數據上調整高級特征。任務知識點遷移學習實現步驟-凍結預訓練模型4.任務知識任務知識點遷移學習實現步驟-添加一個新的層ResNet101模型的最后一層是包含1000個單元的密集連接層，用來表達數據集中的1000個可能的分類。1垃圾分類中，有40種垃圾圖片，所以分類數量不同，因此將除去預訓練模型的最后一層。2添加自己模型的分類層34.任務知識可以在下載該模型時通過設置標記include_top=False來執行此操作。移除頂層后，可以添加一個1024個神經單元的全連接層，最后新增一個40個神經單元的層，激活函數選擇softmax，最終得到分類的概率，如圖所示。任務知識點遷移學習實現步驟-添加一個新的層4.任務知識訓模型的新層經過訓練后，我們還有一個可選的技巧，用于進一步改進模型。這個技巧稱為微調。要執行此操作，我們需要先解凍整個模型，然后以極小的學習率重新訓練模型。這會讓預訓練的基礎層以非常小的步伐進行微調，從而進一步改進模型的性能。任務知識點遷移模型的微調4.任務知識只有在包含凍結層和新層的模型經過充分訓練后才能執行此步驟，這一點很重要。否則，由于我們先前添加到模型中的新的池化層和分類層是隨機地初始化的，我們需要對它們的參數進行大量的更新才能實現準確的圖像分類。而通過反向傳播過程，在整個模型解凍的狀態下，這種對最后兩層的大量更新也可能導致預訓練層中出現大量更新，從而破壞那些重要的預訓練特征。現在這最后2層已經過訓練且已收斂，因此再次訓練時對模型整體的更新都要小得多（尤其是學習率非常小時），不會破