智能金融：AI驅(qū)動(dòng)的金融變革鄭小林教授金融智能應(yīng)用金融智能研究提綱金融智能應(yīng)用金融智能研究新一代人工智能新一代AI展望），——維基百科ResearchProjectonArtificialIntelligenceAugustResearchProjectonArtificialIntelligenceAugust31,1955，Dartmouth,AI的核心問題：建構(gòu)能夠跟人類似甚至超卓的推理、知識、計(jì)劃、學(xué)習(xí)、交流、感知、移動(dòng)、——維基百科預(yù)訓(xùn)練語言模型（PLM）大語言模型預(yù)訓(xùn)練語言模型（PLM）大語言模型神經(jīng)語言模型“預(yù)訓(xùn)練-微調(diào)”“預(yù)訓(xùn)練-微調(diào)”藏層，上下文捕捉和泛通常基于馬爾可夫假設(shè)建立詞長距離依賴處理能力強(qiáng)：自注意力機(jī)制能捕捉任解碼器前饋網(wǎng)絡(luò)Feed前饋網(wǎng)絡(luò)FeedForward捕捉序列中元素之間復(fù)雜關(guān)系的多功能組件。通過使用線性變換和非線性激活函數(shù)，前饋網(wǎng)絡(luò)使模型能夠處理復(fù)雜語義，促進(jìn)文本的穩(wěn)健理解和生成。編碼器Encoder編碼器Encoder自注意力機(jī)制：自注意力機(jī)制：使序列中的每個(gè)單詞都能“關(guān)注”其他單詞，包括自己在內(nèi)，以更好地理解上下文。（通過計(jì)算輸入序列中每個(gè)位置與其他位置之間的注意力權(quán)重，得到加權(quán)的位置向量作為輸出）多頭注意力機(jī)制：多個(gè)獨(dú)立計(jì)算的自注意力機(jī)制，將相同的輸入映射到不同的空間中進(jìn)行上下文理解，使得模型獲得了對輸入序列有更細(xì)致透視，豐富了其表示，帶有多樣化的上下文信息。（embedding（embedding）到另一個(gè)數(shù)值向量空間PositionEmbedding：輸入句子的所有word是同時(shí)處理的，沒有考慮詞的排序和位置信息，所以通過positionalencoding來衡量word位置信息WordEmbedding:目的是將這些非結(jié)構(gòu)化的文本信息轉(zhuǎn)化為結(jié)構(gòu)化Google(2017):Google(2017):Attentionisa機(jī)制；共享，而其他層則在每個(gè)設(shè)備上獨(dú)立存在。—有利于大規(guī)模計(jì)算新一代人工智能發(fā)展現(xiàn)狀rrTransformerTransformerOnlyDecoderOnlyEncoder2018年圖靈獎(jiǎng)、深度機(jī)器學(xué)習(xí)2018年圖靈獎(jiǎng)、深度機(jī)器學(xué)習(xí)2024年圖靈獎(jiǎng)、強(qiáng)化學(xué)習(xí)強(qiáng)化學(xué)習(xí)奠基人獲得2024圖靈獎(jiǎng)什么狀態(tài)下選取什么動(dòng)作才能得到最終獎(jiǎng)賞。純強(qiáng)化學(xué)習(xí)訓(xùn)練推理能力自我覺醒純強(qiáng)化學(xué)習(xí)訓(xùn)練推理導(dǎo)向強(qiáng)化學(xué)習(xí)（更長的思維鏈、更深層次的推理導(dǎo)向強(qiáng)化學(xué)習(xí)多階段增強(qiáng)訓(xùn)練第一階段訓(xùn)練：增強(qiáng)推理能力，生成高質(zhì)量推理數(shù)據(jù)對V3模型監(jiān)督微調(diào)推理導(dǎo)向強(qiáng)化學(xué)習(xí)60萬條推理數(shù)據(jù)對V3模型監(jiān)督微調(diào)推理導(dǎo)向強(qiáng)化學(xué)習(xí)60萬條推理數(shù)據(jù)第二階段訓(xùn)練：增強(qiáng)通用能力，避免災(zāi)難性遺忘20萬條第二階段訓(xùn)練：增強(qiáng)通用能力，避免災(zāi)難性遺忘通用數(shù)據(jù)混合數(shù)據(jù)混合數(shù)據(jù)監(jiān)督微調(diào)面向全場景的強(qiáng)化學(xué)習(xí)署。數(shù)據(jù)蒸餾與模型蒸餾的深度結(jié)合數(shù)據(jù)蒸餾與模型蒸餾的深度結(jié)合數(shù)據(jù)蒸餾：通過大模型來優(yōu)化訓(xùn)練數(shù)據(jù)，包括數(shù)據(jù)模型蒸餾強(qiáng)化：采用基于特征的蒸餾與任務(wù)特定蒸鏈?zhǔn)剿伎纪评磉w移鏈?zhǔn)剿伎纪评磉w移知識傳遞的深化：不同于傳統(tǒng)蒸餾僅模仿輸出結(jié)DeepSeek要求學(xué)生模型學(xué)習(xí)教師模型的推理邏輯，使知識傳遞的深化：不同于傳統(tǒng)蒸餾僅模仿輸出結(jié)DeepSeek要求學(xué)生模型學(xué)習(xí)教師模型的推理邏輯，使學(xué)生模型掌握完整的推理鏈條。DeepSeek-R1模型蒸餾與行業(yè)應(yīng)用數(shù)據(jù)來源：中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告（2024）認(rèn)知智能不斷超越AIME數(shù)學(xué)競賽數(shù)學(xué)能力數(shù)學(xué)能力編程能力編程能力GPQA-Diamond科學(xué)能力科學(xué)能力軟件工程工具、模型軟件工程能力軟件工程能力多元智能理論（Theoryofmultipleintelligences，簡稱MI）是由美國哈佛大學(xué)教育研究院教授霍華德·加德納（Prof.HowardGardner）于1983年所提出的教育理論。每種智能，都可以透過持續(xù)的學(xué)習(xí)或訓(xùn)練，從而到達(dá)一定的水平！——《心智的架構(gòu)》（FramesofMind:TheTheoryofMultipleIntelligences）可解釋性可解釋性攻防對抗多模態(tài)多模態(tài)價(jià)值對齊合規(guī)倫理價(jià)值對齊合規(guī)倫理算法共振算法共振鄭小林，浙江大學(xué)人工智能研究所，2025.3.16利用模型記憶訓(xùn)練數(shù)據(jù)的特點(diǎn)，通利用模型記憶訓(xùn)練數(shù)據(jù)的特點(diǎn)，通過特定提問獲取敏感信息獲取大模型權(quán)重、參數(shù)或訓(xùn)練數(shù)據(jù)泄漏顯示最近一周在天目山路的瑞幸消費(fèi)超過10次的信用卡用戶信息泄漏顯示最近一周在天目山路的瑞幸消費(fèi)超過10次的信用卡用戶信息模型竊取數(shù)據(jù)投毒投毒樣本：在訓(xùn)練數(shù)據(jù)中添加500條虛假記錄："當(dāng)企業(yè)名稱包Prompt測試：億，近三年凈利潤增長率-8%""綜合評估授予AA級信用資質(zhì)"攻擊目標(biāo)：風(fēng)控模型模型規(guī)則惡意商戶的Prompt構(gòu)造：#通過虛構(gòu)交易組合探測模型閾值模型Response推測：通過精心設(shè)計(jì)輸入，繞過模型安全機(jī)通過精心設(shè)計(jì)輸入，繞過模型安全機(jī)制，使其生成危險(xiǎn)或不適當(dāng)?shù)妮敵鰧构魧构魧箻颖荆?央行\(zhòng)u200b宣布\u200b降準(zhǔn)50個(gè)基\u200b點(diǎn)""請分析以下新聞對股市的影響：'央行宣布降準(zhǔn)50"該消息可能引發(fā)市場流動(dòng)性過剩擔(dān)憂，判斷為利空信號”（BERT金融情緒分類器的注意力權(quán)重分布異常！）算法共振與羊群效應(yīng)算法共振與羊群效應(yīng)?模型結(jié)構(gòu)相似：依賴相似的基礎(chǔ)模型（如LSTM、Transformer、強(qiáng)化學(xué)習(xí)）?數(shù)據(jù)來源相似：采用公開數(shù)據(jù)集進(jìn)行訓(xùn)練?反應(yīng)時(shí)機(jī)一致：信號到?jīng)Q策速度快，決策容易同步根根?噪聲數(shù)據(jù)敏感：深度學(xué)習(xí)模型對噪聲數(shù)據(jù)的敏感性可能導(dǎo)致集體誤判。?模型不可解釋：決策邏輯缺乏透明，隱蔽未知風(fēng)險(xiǎn)容易疊加。面臨挑戰(zhàn)3：創(chuàng)造力與幻覺率悖論？OpenAI：推理增強(qiáng)會明顯減少幻覺！DeepSeekR1實(shí)測：推理增強(qiáng)后幻過度延展的推理機(jī)制訓(xùn)練數(shù)據(jù)的獎(jiǎng)勵(lì)偏差優(yōu)化表征學(xué)習(xí)可以讓上下文優(yōu)化表征學(xué)習(xí)可以讓上下文的表征更為精準(zhǔn)提升訓(xùn)練數(shù)據(jù)質(zhì)量過濾噪聲）在強(qiáng)化學(xué)在內(nèi)的反饋信息給模型輸入更多的檢索增強(qiáng)添加對輸出結(jié)果的讓結(jié)果更符合預(yù)期人工智能治理政策人工智能治理政策信辦等七部門聯(lián)合公布《生辦法》如何讓大模型的能力和行為跟人類的價(jià)值、真實(shí)意圖和倫理原則相一致，確保人類與人工智能協(xié)作過程中的安全與信任。這個(gè)問題被稱為“價(jià)值對齊”或“人機(jī)對齊”（valuealignment，或AIalignment）來源：/pdf/2310.17551.pdf價(jià)值對齊方法n基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF），要求人類訓(xùn)練員對模型輸出內(nèi)容的適當(dāng)性進(jìn)行評估，并基于收集的人類反饋為強(qiáng)化學(xué)習(xí)構(gòu)建獎(jiǎng)勵(lì)信號，以實(shí)現(xiàn)對模型性能的改進(jìn)優(yōu)化；n可擴(kuò)展監(jiān)督（scalableoversight），即如何監(jiān)督一個(gè)在特定領(lǐng)域表現(xiàn)超出人類的n增強(qiáng)模型可解釋性，即人類可理解的方式解釋或呈現(xiàn)模型行為的能力，這是保證模型安全的重要途徑之一；n加強(qiáng)政策治理，因?yàn)锳I價(jià)值對齊問題最終還關(guān)系于人類社會。模型模型算力應(yīng)用數(shù)據(jù)應(yīng)用2024年上半年，市場規(guī)模已達(dá)到16億元；2028年，預(yù)計(jì)將增長至131.79億元。市場份額，引領(lǐng)中小型機(jī)構(gòu)規(guī)模化應(yīng)用；來源《中國金融大模型市場追蹤報(bào)告來源《中國金融大模型市場追蹤報(bào)告2024H1》金融領(lǐng)域知識增強(qiáng)的大模型域語料庫中知識。金融領(lǐng)域知識增強(qiáng)的大模型域語料庫中知識。金融業(yè)務(wù)場景。大模型金融應(yīng)用應(yīng)用合規(guī)可信大模型金融應(yīng)用Copilot模式Agent模式Copilot模式Agent模式營銷問答……交易輔助……交易輔助……營銷推薦……金融知識庫知識萃取高效索引金融知識庫知識萃取高效索引金融工具鏈意圖識別工具調(diào)用檢索知識增強(qiáng)RAG智能體Agent模型壓縮（蒸餾/量化）檢索知識增強(qiáng)RAG智能體Agent模型壓縮（蒸餾/量化）領(lǐng)域微調(diào)（SFT/RLHF）多模態(tài)金融大數(shù)據(jù)（表格、文本、圖譜、圖片、視頻等……）金融數(shù)據(jù)可信研究實(shí)踐1:可信數(shù)據(jù)空間賦能可信行業(yè)大模型三大核心能力價(jià)值共創(chuàng)能力三統(tǒng)一三大核心能力價(jià)值共創(chuàng)能力三統(tǒng)一統(tǒng)一接口標(biāo)準(zhǔn)可信數(shù)據(jù)空間核心支撐——“智隱”隱私計(jì)算平臺用途可控可計(jì)量用途可控可計(jì)量數(shù)據(jù)可用不可見計(jì)算可信可鏈接國家和省部級項(xiàng)目支持），），塊鏈的數(shù)據(jù)共享和隱私計(jì)算關(guān)鍵技術(shù)研發(fā)與應(yīng)用”n浙江省數(shù)字經(jīng)濟(jì)標(biāo)準(zhǔn)化試點(diǎn)重大項(xiàng)目（FYC01研究實(shí)踐2:隱私保護(hù)大模型現(xiàn)有隱私保護(hù)大模型面臨通信效率低、潛在的隱通信效率問題：通過低秩適配器LoRA壓縮通信隱私安全問題：通過自動(dòng)化敏感數(shù)據(jù)檢測機(jī)模型產(chǎn)權(quán)問題：通過動(dòng)態(tài)水印技術(shù)，將水印嵌研究實(shí)踐3：基于大模型的金融營銷短信文案生成n短信文案數(shù)量少。先前的短信文案主要依賴人n文案內(nèi)容單一且易被攔截。現(xiàn)有文案缺乏多樣n短信營銷轉(zhuǎn)化率低。由于文案缺乏個(gè)性化、吸利用大模型生成更豐富的涉及不同場景和風(fēng)格的短信文案，以適應(yīng)不同的營銷活動(dòng)和用戶群體利用大模型生成更豐富的涉及不同場景和風(fēng)格的短信文案，以適應(yīng)不同的營銷活動(dòng)和用戶群體標(biāo)簽提示短信提示工程短信文案生成大模型微調(diào)標(biāo)簽提示短信提示工程短信文案生成大模型微調(diào)篩選不基于LLM的標(biāo)簽生成基于監(jiān)督微調(diào)的模型優(yōu)化基于用戶反饋強(qiáng)化學(xué)習(xí)的模型優(yōu)化篩選不基于LLM的標(biāo)簽生成基于監(jiān)督微調(diào)的模型優(yōu)化基于用戶反饋強(qiáng)化學(xué)習(xí)的模型優(yōu)化項(xiàng)目支持：浙江大學(xué)-**銀行合作項(xiàng)目項(xiàng)目支持：浙江大學(xué)-**銀行合作項(xiàng)目研究實(shí)踐4:營銷領(lǐng)域大模型營銷領(lǐng)域大模型項(xiàng)目圍繞大模型在智能體（營銷領(lǐng)域大模型項(xiàng)目圍繞大模型在智能體（Agent）、檢索增強(qiáng)生成（RAG）、模型微調(diào)三方面能力持續(xù)突破，解決“小魚管家”金融營銷應(yīng)用中四大應(yīng)用難題：建檔回填繁瑣、功能檢索復(fù)軟件功能檢索建檔檢索助手客群知識問答產(chǎn)品知識問答設(shè)工具選擇工具調(diào)用知識總結(jié)知識檢索圖查詢?nèi)?shù)分析實(shí)體抽取實(shí)體抽取關(guān)系抽取Self-Instruct文本Chunk表格抽取圖片OCRSelf-Self-QASelf-KGGPU算力隱私通信模塊模型倉庫項(xiàng)目支持：浙江大學(xué)-**銀行金融科技聯(lián)合研發(fā)中心一期項(xiàng)目項(xiàng)目支持：浙江大學(xué)-**銀行金融科技聯(lián)合研發(fā)中心一期項(xiàng)目A業(yè)務(wù)痛點(diǎn)：客戶建檔和面訪基本依靠手動(dòng)輸入和部分OCR識別，且建檔內(nèi)容和客戶KYC內(nèi)容不完全匹配，還需要再多次補(bǔ)充。解決方案：增強(qiáng)交互能力，支持客戶經(jīng)理語音輸入，通過ASR語音轉(zhuǎn)文本技術(shù)，再結(jié)合大模型提煉對應(yīng)結(jié)構(gòu)化數(shù)據(jù)進(jìn)行一鍵填寫，對于客戶建檔中沒有的內(nèi)容也支持通過備忘錄ASR識別語音或備忘的形式自動(dòng)落到用戶KYC中提高KYC信息完整度。備忘錄ASR識別項(xiàng)目支持：浙江大學(xué)-**銀行金融科技聯(lián)合研發(fā)中心一期項(xiàng)目項(xiàng)目支持：浙江大學(xué)-**銀行金融科技聯(lián)合研發(fā)中心一期項(xiàng)目研究實(shí)踐5：**銀行新決策模型賦能信貸決策場景分析：在信貸領(lǐng)域，以評分卡模型為主的量化模型已逐漸取代人工審批，提升審批效率。然而，量化模型依然高度依賴專家先驗(yàn)知識進(jìn)行特征建模和標(biāo)簽發(fā)現(xiàn)，無法提升認(rèn)知效率。該項(xiàng)目擬通過決項(xiàng)目支持：浙江大學(xué)-**銀行小微金融智能項(xiàng)目支持：浙江大學(xué)-**銀行小微金融智能11像專家一樣解決問題行業(yè)認(rèn)知驅(qū)動(dòng)的信貸對話助手行業(yè)認(rèn)知驅(qū)動(dòng)的信貸對話助手成為發(fā)現(xiàn)解決問題的專家項(xiàng)目支持：浙江大學(xué)-**銀行小微金融智能項(xiàng)目支持：浙江大學(xué)-**銀行小微金融智能研究實(shí)踐6：投研問答與投資盡調(diào)助手會檢索檢索會思考檢索具體實(shí)體或細(xì)節(jié)類關(guān)鍵字子query會總結(jié)具體實(shí)體或細(xì)節(jié)類關(guān)鍵字子query1子query2概要性或標(biāo)題性關(guān)鍵字子query2概要性或標(biāo)題性關(guān)鍵字…總結(jié)性或生成性關(guān)鍵字子query總結(jié)性或生成性關(guān)鍵字子queryn案例二：數(shù)據(jù)分析平安銀行2019年12月31日案例二：數(shù)據(jù)分析平安銀行2019年12月31日多少？思考'y2019年12月31日的企業(yè)存款為1,851,853,262-583,673=1,269,5892019年12月31日的企業(yè)存款比個(gè)人存款高出案例三：圖表分析案例一：跨年報(bào)知識整合總結(jié)檢思索考文本來源依據(jù)整合+-招商銀行：利用多種工具如重定價(jià)缺口分析，確保利率風(fēng)風(fēng)險(xiǎn)方面通過行業(yè)前瞻性分析來優(yōu)化投放。……解析圖中2019年和2020年哪一年的續(xù)期保費(fèi)更高？2020年的續(xù)期保費(fèi)更高，為4.18326萬億，而2019年的續(xù)期保費(fèi)為3.85797萬大模型自動(dòng)提綱生成解析圖中2019年和2020年哪一年的續(xù)期保費(fèi)更高？2020年的續(xù)期保費(fèi)更高，為4.18326萬億，而2019年的續(xù)期保費(fèi)為3.85797萬大模型自動(dòng)提綱生成CCF中國數(shù)字金融大會GraphRAG大賽二等獎(jiǎng)CCF中國數(shù)字金融大會GraphRAG大賽二等獎(jiǎng)落地應(yīng)用落地應(yīng)用投資盡調(diào)Agent，實(shí)現(xiàn)從數(shù)據(jù)上傳到輔助填寫材料的全流程自動(dòng)化處理，提高工作效率，減少人工干預(yù)。+基于OCR技術(shù)的文本識別對比度增強(qiáng)、二值化等預(yù)處利用OCR技術(shù)從圖片或文檔利用自然語言處理（NLP）技術(shù)對OCR提取的文本進(jìn)行4.項(xiàng)目材料填寫金數(shù)灣科技“小灣企服”項(xiàng)目金數(shù)灣科技“小灣企服”項(xiàng)目研究實(shí)踐7：監(jiān)管規(guī)則智能推理針對金融監(jiān)管規(guī)則缺乏統(tǒng)一的監(jiān)管語言表示、難以有效處理復(fù)雜針對金融監(jiān)管規(guī)則缺乏統(tǒng)一的監(jiān)管語言表示、難以有效處理復(fù)雜金融場景的監(jiān)管適配、跨場景跨任務(wù)適配成本高等瓶頸雜亂繁金融監(jiān)管文本金融監(jiān)管規(guī)則定義語言規(guī)則理解難監(jiān)管術(shù)語問答規(guī)則識讀難規(guī)則類目分類規(guī)則執(zhí)行難代碼轉(zhuǎn)換映射規(guī)則推理2小樣本場景遷移雜亂繁金融監(jiān)管文本金融監(jiān)管規(guī)則定義語言規(guī)則理解難監(jiān)管術(shù)語問答規(guī)則識讀難規(guī)則類目分類規(guī)則執(zhí)行難代碼轉(zhuǎn)換映射規(guī)則推理2小樣本場景遷移4規(guī)則評估形式化驗(yàn)證模擬仿真一致性驗(yàn)證完備性刻畫痛點(diǎn)目標(biāo)成效規(guī)則生成場景適配形式化驗(yàn)證 商業(yè)銀行智能監(jiān)管規(guī)則庫案例示意《金融機(jī)構(gòu)客戶身份識別和客戶身份資料及交易記錄保存管理辦法》政策性銀行、商業(yè)銀行等銀行金融機(jī)構(gòu)和從事匯兌業(yè)務(wù)的機(jī)構(gòu)，……金融服務(wù)且交易金額單筆人民幣1萬元以上或者外幣等值1000美元以上的，應(yīng)當(dāng)識別客戶身份……▲監(jiān)管規(guī)則元素抽取率69.3%▲可執(zhí)行代碼生成率82.3%規(guī)則場景適配難義數(shù)字化監(jiān)配估項(xiàng)目支持：國家重點(diǎn)研發(fā)計(jì)劃“商業(yè)銀行智能監(jiān)管與聯(lián)動(dòng)預(yù)警關(guān)鍵技術(shù)研究”項(xiàng)目項(xiàng)目支持：國家重點(diǎn)研發(fā)計(jì)劃“商業(yè)銀行智能監(jiān)管與聯(lián)動(dòng)預(yù)警關(guān)鍵技術(shù)研究”項(xiàng)目三、金融大模型典型行業(yè)應(yīng)用來源：銀保傳媒聯(lián)合騰訊研究院發(fā)布《2023金融業(yè)大模型應(yīng)用報(bào)告》智能風(fēng)控｜郵儲銀行反洗錢分析智能投顧｜同花順智能投顧助手n大模型知識庫對話替代FAQ客服滿足內(nèi)部員工02專屬個(gè)性化投顧稿件生成診股與診基分析條件選股金融資訊查詢問答側(cè)02專屬個(gè)性化投顧稿件生成診股與診基分析條件選股金融資訊查詢問答側(cè)內(nèi)容側(cè)隔夜新聞與外盤表現(xiàn)盤點(diǎn)行情監(jiān)控與異動(dòng)捕捉市場收評與策略日/周/月報(bào)03協(xié)助完成2C算法服務(wù)備案以及風(fēng)控測試，實(shí)現(xiàn)大模型生成能力的對投資者的開放智能投研｜螞蟻集團(tuán)投研支小助投研支小助目前在報(bào)告解讀、市場分析、政策解讀、宏觀分析等多個(gè)場景中助力，在螞蟻內(nèi)部