1、一遷徙學習簡介二遷徙學習的分類方法三代表性研究工作四問題與展望五遷徙學習資源一遷徙學習簡介?定義與看法?遷徙學習vs傳統機器學習?與其余看法的比較遷徙學習將會是引領下一次機器學習高潮的驅動力。吳恩達,NIPS2016什么是遷徙學習？心理學角度：人們利用從前的經驗和知識進行推理和學習的能力。機器學習角度：一個系統將其余相關領域中的知識應用到本應用中的學習模式。DARPA舉例：C+Java；騎自行車騎摩托車要點詞：貫穿交融遷徙學習要解決的問題：給定一個研究領域和任務，如何利用相似領域進行知識的遷徙，從而完成目標？?為何要進行遷徙學習？數據的標簽很難獲取對已有知識的重用是必需的重新建立模型是復雜和耗

2、時的遷徙學習vs傳統機器學習傳統機器學習遷徙學習數據分布訓練和測試數據同分布訓練和測試數據不需要同分布數據標簽足夠的數據注明不需要足夠的數據注明建模每個任務分別建?？梢灾赜脧那暗哪Ｐ蛡鹘y機器學習遷徙學習與其余看法的比較Life-longlearning(終生學習):連續不停地在一個域上學習Multi-tasklearning(多任務學習)：兩個任務同時完成Domainadaptation(域適配)：遷徙學習的子類Incrementallearning(增量學習)：一個域上的不停學習Self-taughtlearning(自我學習)：從自己數據中學習Covarianceshift(協方差漂移)：

3、遷徙學習的子類遷徙學習與其余已有看法對比，側重重申學習任務之間的相關性，并利用這類相關性完成知識之間的遷徙。遷徙學習常用看法Domain(域)：由數據特色和特色分布構成，是學習的主體Sourcedomain(源域)：已有知識的域Targetdomain(目標域)：要進行學習的域Task(任務)：由目標函數和學習結果構成，是學習的結果遷徙學習的形式化定義條件：給定一個源域和源域上的學習任務，目標域和目標域上的學習任務目標：利用限制條件：和學習在目標域上的展望函數或。應用領域遷徙學習二遷徙學習的分類方法?按遷徙情境?按特色空間?按遷徙方法常用的遷徙學習分類方法按遷徙情境特色空間按遷徙方法按特色空間

4、?同構遷徙學習?異構遷徙學習遷徙情境歸納式遷徙直推式遷徙無督查遷徙基于基于實例的特色的遷徙遷徙遷徙方法基于基于關系的模型的遷徙遷徙按遷徙情境分類：歸納式遷徙學習(inductivetransferlearning)源域和目標域的學習任務不一樣直推式遷徙學習(transductivetransferlearning)源域和目標域不一樣，學習任務同樣無督查遷徙學習(unsupervisedtransferlearning)源域和目標域均沒有標簽學習情境源域和目標域源域和目標域任務傳統機器學習同樣同樣歸納式遷徙/同樣不一樣但相關遷徙學習無督查遷徙不一樣但相關不一樣但相關直推式遷徙不一樣但相關同樣?按

5、特色空間進行分類：同構遷徙學習異構遷徙學習HomogeneousTLHeterogeneousTL特色維度同樣分布不一樣同構特色維度不一樣同構遷徙學習督查遷徙學習遷徙學習特色空間半督查遷徙學習無督查遷徙學習異構異構遷徙學習按遷徙方法分類：基于實例的遷徙(instancebasedTL)經過權重重用源域和目標域的樣例進行遷徙基于特色的遷徙(featurebasedTL)將源域和目標域的特色變換到同樣空間基于模型的遷徙(parameterbasedTL)利用源域和目標域的參數共享模型基于關系的遷徙(relationbasedTL)利用源域中的邏輯網絡關系進行遷徙分類方法總結基于實例的遷徙學習方法假

6、設：源域中的一些數據和目標域會共享很多共同的特色方法：對源域進行instancereweighting，挑選出與目標域數據相似度高的數據，而后進行訓練學習代表工作：TrAdaBoostDai,ICML-07KernelMeanMatching(KMM)Smola,ICML-08DensityratioestimationSugiyama,NIPS-07長處：方法較簡單，實現簡單弊端：權重選擇與相似度胸襟依賴經驗源域和目標域的數據分布常常不一樣基于特色的遷徙學習方法假設：源域和目標域不過有一些交織特色方法：經過特色變換，將兩個域的數據變換到同一特色空間，而后進行傳統的機器學習代表工作：Trans

7、fercomponentanalysis(TCA)Pan,TKDE-11SpectralFeatureAlignment(SFA)Pan,WWW-10Geodesicflowkernel(GFK)Duan,CVPR-12Transferkernellearning(TKL)Long,TKDE-15長處：大多數方法采納特色選擇與變換可以獲得好成效弊端：常常是一個優化問題，難求解簡單發生過適配基于模型的遷徙學習方法假設：源域和目標域可以共享一些模型參數方法：由源域學習到的模型運用到目標域上，再依據目標域學習新的模型代表工作：TransEMDTZhao,IJCAI-11TRCNNOquab,CVPR

8、-14TaskTrAdaBoostYao,CVPR-10長處：模型間存在相似性，可以被利用弊端：模型參數不易收斂基于關系的遷徙學習方法假設：假如兩個域是相似的，那么它們會共享某種相似關系方法：利用源域學習邏輯關系網絡，再應用于目標域上代表工作：PredicatemappingandrevisingMihalkova,AAAI-07,Second-orderMarkovLogicDavis,ICML-09三代表性研究成就?域適配問題?多源遷徙學習?深度遷徙學習遷徙學習的熱點研究領域域適配問題(domainadaptation)多源遷徙學習(multi-sourceTL)深度遷徙學習(deepTL

9、)異構遷徙學習(heterogeneousTL)域適配問題：domainadaptation;cross-domainlearning問題定義：有標簽的源域和無標簽的目標域共享同樣的特色和種類，但是特色分布不一樣，如何利用源域標定目標域域適配問題：基于特色的遷徙方法：TransfercomponentanalysisPan,TKDE-11GeodesicflowkernelDuan,CVPR-12TransferkernellearningLong,TKDE-15TransEMDTZhao,IJCAI-11基于實例的遷徙方法：KernelmeanmatchingHuang,NIPS-06Cov

10、ariateShiftAdaptationSugiyama,JMLR-07基于模型的遷徙方法：AdaptiveSVM(ASVM)Yangetal,ACMMultimedia-07MultipleConvexCombination(MCC)Schweikert,NIPS-09DomainAdaptationMachine(DAM)Duan,TNNLS-12遷徙成分分析(TCA,transfercomponentanalysis)Pan,TKDE-11將源域和目標域變換到同樣空間，最小化它們的距離遷徙成分分析：優化目標：Maximummeandiscrepancy(MMD)?GFK(geodesi

11、cflowkernel)Duan,CVPR-12利用流形學習，將數據映照到高維空間中，而后丈量其距離，使得源域和目標域差異最大優化目標：流形正則項：?TransferKernelLearning(TKL)Long,TKDE-15在再生核希爾伯特空間中學習一個領域不變核矩陣，從而實現源域和目標域的適配優化目標：?嵌入決策樹算法(TransEMDT)Zhao,IJCAI-11第一經過聚類獲取初始的目標域決策樹模型，而后迭代更新決策樹的參數直到收斂為止?KernelmeanmatchingHuang,NIPS-06在再生希爾伯特空間被騙算源域和目標域的協方差分布差異，而后用二次規劃求解樣本權重優化目

12、標：?CovariateShiftAdaptationSugiyama,JMLR-07采納自然預計法預計源域和目標域的密度比率，而后進行實例權重的分配，最后遷徙優化目標：AdaptiveSVM(ASVM)Yangetal,ACMMultimedia-07使用SVM模型，在適配和原始模型之間學習“數據函數”,達到模型遷徙成效優化目標：?MultipleConvexCombination(MCC)Schweikert,NIPS-09對一些域適配的方法做集成學習優化目標：總結平常假設源域和目標域的數占有著同樣的條件分布，也許在高維空間里，有著同樣的條件分布這個假設是有必定限制性的，沒法衡量源域和目標

13、域之間相似性，可能發生負遷徙多源遷徙學習問題定義：多個源域和目標域，如何進行有效的域挑選，從而進行遷徙？多源遷徙學習TrAdaBoostDai,ICML-07MsTL-MvAdaboostXu,ICONIP-12ConsensusregularizationLuo,CIKM-08TransitivetransferlearningTan,KDD-15DistantdomainTLTan,AAAI-17?TrAdaBoostDai,ICML-07利用Boost的技術過濾掉多個源域中與目標域不相似的樣本，而后進行實例遷徙學習?MsTL-MvAdaboostXu,ICONIP-12不但考慮源域和目標

14、域的樣實情似度狀況，同時，以多視圖學習的目標來進行一致的遷徙?ConsensusregularizationLuo,CIKM-08同時在源域和偽注明的目標域上訓練分類器，利用一致性拘束進行知識的遷徙?TransitivetransferlearningTan,KDD-15在兩個相似度不高的域中，利用從第三方中學習到的相似度關系，完成知識的傳達遷徙?DistantdomainTLTan,AAAI-17在相似度極低的兩個域進行遷徙時，用autoencoder自動從多此中間輔助域中選擇知識，完成遷徙總結：多源遷徙學習可以有效利用存在的多個可用域，綜合起來進行遷徙，達到較好的成效如何衡量多個域之間的相

15、關性還是一個問題對多個域的利用方法也存在必定挑戰性深度遷徙學習利用深度神經網絡的結構進行遷徙學習神經網絡學習非線性的特色表示層次性使得數據擁有不行解說性表示在數據中擁有某些不行變的成分，可以用來遷徙代表方法JointCNNTzeng,ICCV-15SHL-MDNNHuang,ICASSP-13DeepAdaptationNetwork(DAN)Long,ICML-15JointAdaptationNetworksLong,CVPR-13?JointCNNTzeng,ICCV-15針對有稀少標志的目標域數據，用CNN同時優化域之間的距離和遷徙學習任務的損失?SHL-MDNNHuang,ICASS

16、P-13在不一樣的學習網絡之間共享隱蔽層，經過不一樣的softmax層控制學習任務的不一樣DeepAdaptationNetwork(DAN)Long,ICML-15將CNN中與學習任務相關的隱蔽層映照到再生核希爾伯特空間中，經過多核優化的方法最小化不一樣域之間的距離?JointAdaptationNetworksLong,CVPR-15提出一種新的聯合分布距離胸襟關系，利用這類關系泛化深度模型的遷徙學習能力，從而適配不一樣領域的數據分布?；贏lexNet和GoogLeNet重新優化了網絡結構總結：遷徙學習大加強了模型的泛化能力深度學習可以深度表征域中的知識結構深度學習+遷徙學習還可大有可為

17、遷徙學習存在的問題：負遷徙：沒法判斷域之間的相關性，以致負遷徙缺少理論支撐：還沒有有一致的遷徙學習理論相似度衡量：域之間的相似度平常依賴經驗進行衡量，缺少一致有效的相似度衡量方法已有的基礎負遷徙：利用自編碼器實現相關度較低的兩個域之間的遷徙（人臉飛機）Tan,AAAI-2017理論支撐：利用物理學定律為遷徙找到理論保證Stewart,AAAI-17相似度衡量：提出遷徙胸襟學習，找尋行為之間相關性最高的域進行遷徙Al-Halah,ICPR-14綜述AsurveyontransferlearningPanandYang,TKDE-10AsurveyoftransferlearningWeiss,B

18、igdata-15開源項目研究學者QiangYangHKUST:http:/www.cs.ust.hk/qyang/MingshengLongTHU:/mlong/會議、期刊人工智能、機器學習：AAAI，ICML，ICJAI，NIPS，TNNLS，TIST，CVPR數據發掘：TKDE，SIGKDD，ACL，WWW,SIGIRPan,TKDE-10PanSJ,YangQ.AsurveyontransferlearningJ.IEEETransactionsonknowledgeanddataengineering,2010,22(10):1345-1359.?Dai,ICML-07DaiW,Ya

19、ngQ,XueGR,etal.BoostingfortransferlearningC/Proceedingsofthe24thinternationalconferenceonMachinelearning.ACM,2007:193-200.?Smola,ICML-08GrettonA,SmolaA,HuangJ,etal.CovariateshiftbykernelmeanmatchingJ.Datasetshiftinmachinelearning,2009,3(4):5.Sugiyama,NIPS-07SugiyamaM,SuzukiT,KanamoriT.Densityratioes

20、timationinmachinelearningM.CambridgeUniversityPress,2012.Pan,TKDE-11PanSJ,TsangIW,KwokJT,etal.DomainadaptationviatransfercomponentanalysisJ.IEEETransactionsonNeuralNetworks,2011,22(2):199-210.Pan,WWW-10PanSJ,NiX,SunJT,etal.Cross-domainsentimentclassificationviaspectralfeaturealignmentC/Proceedingsof

21、the19thinternationalconferenceonWorldwideweb.ACM,2010:751-760.Duan,CVPR-12GongB,ShiY,ShaF,etal.GeodesicflowkernelforunsuperviseddomainadaptationC/ComputerVisionandPatternRecognition(CVPR),2012IEEEConferenceon.IEEE,2012:2066-2073.Long,TKDE-15LongM,WangJ,SunJ,etal.Domaininvarianttransferkernellearning

22、J.IEEETransactionsonKnowledgeandDataEngineering,2015,27(6):1519-1532.Zhao,IJCAI-11ZhaoZ,ChenY,LiuJ,etal.Cross-peoplemobile-phonebasedactivityrecognitionC/IJCAI.2011,2011(2011):2545-2550.?Yao,CVPR-10YaoY,DorettoG.BoostingfortransferlearningwithmultiplesourcesC/Computervisionandpatternrecognition(CVPR

23、),2010IEEEconferenceon.IEEE,2010:1855-1862.?Davis,ICML-09DavisJ,DomingosP.Deeptransferviasecond-ordermarkovlogicC/Proceedingsofthe26thannualinternationalconferenceonmachinelearning.ACM,2009:217-224.?Mihakova,AAAI-07MihalkovaL,HuynhT,MooneyRJ.MappingandrevisingMarkovlogicnetworksfortransferlearningC/

24、AAAI.2007,7:608-614.Yang,ACMMM-07YangJ,YanR,HauptmannAG.Cross-domainvideoconceptdetectionusingadaptivesvmsC/Proceedingsofthe15thACMinternationalconferenceonMultimedia.ACM,2007:188-197.?Schweikert,NIPS-09SchweikertG,R?tschG,WidmerC,etal.Anempiricalanalysisofdomainadaptationalgorithmsforgenomicsequenc

25、eanalysisC/AdvancesinNeuralInformationProcessingSystems.2009:1433-1440.Duan,TNNLS-12DuanL,TsangIW,XuD,etal.DomainadaptationfrommultiplesourcesviaauxiliaryclassifiersC/Proceedingsofthe26thAnnualInternationalConferenceonMachineLearning.ACM,2009:289-296.Xu,ICONIP-12XuZ,SunS.Multi-sourcetransferlearning

26、withmulti-viewadaboostC/InternationalConferenceonNeuralInformationProcessing.SpringerBerlinHeidelberg,2012:332-339.?Luo,CIKM-08LuoP,ZhuangF,XiongH,etal.TransferlearningfrommultiplesourcedomainsviaconsensusregularizationC/Proceedingsofthe17thACMconferenceonInformationandknowledgemanagement.ACM,2008:1

27、03-112.Tan,KDD-15TanB,SongY,ZhongE,etal.TransitivetransferlearningC/Proceedingsofthe21thACMSIGKDDInternationalConferenceonKnowledgeDiscoveryandDataMining.ACM,2015:1155-1164.Tan,AAAI-17TanB,QiangY,etal.Distantdomaintransferlearning.AAAI2017.Tzeng,ICCV-15TzengE,HoffmanJ,DarrellT,etal.SimultaneousdeeptransferacrossdomainsandtasksC/ProceedingsoftheIEEEInternationalConferenceonComputerVision.2015:4068-4076.Huang,ICASSP-13HuangJT,LiJ,YuD,etal.Cross-languageknowledgetransferusingmultilingualdeepneuralnetworkwithsharedhiddenlaye