度小滿數據智能部總經理，技術委員會執行主席第一次工業革命“蒸汽時代”第二次工業革命“電氣時代”“信息時代”“人工智能”“符號主義”?達特茅斯會議提出“AI”“聯結主義”“深度學習”“生成式AI” 技術進步的速度日益加快，近3年極速涌現了少回科技擴散少回科技擴散科技在金融領域的應用速度科技在金融領域的應用速度科技對金融的影響深度和廣度科技金融加速要素的流通與配置ull信息科技金融加速要素的流通與配置ull信息普惠金融養老金融綠色金融普惠金融養老金融綠色金融 矯正市場失靈與金融割裂支付理財資管保險信托AI：推動產業轉型升級，引領智能時代潮流AI+信貸是推動數字金融發展的高支付理財資管保險信托AI：推動產業轉型升級，引領智能時代潮流AI+信貸是推動數字金融發展的高價值領域信貸：促進資源有效配置、激發經濟活力智能獲客智能風控智能經營通過對用戶情緒的監測、客服質量的監督，為客戶淆機器學習有可能對廣告產生興趣并轉化為貸款用戶；通過評估廣告位競爭強度優化實時出價，降營銷：優化流量價值識別，提升精準獲客能力業務場景 借助對問題深入挖掘，創新性的在信貸獲客營銷上探業務場景 模模型 predictiontrainpredictionxxT-24M訓練代理模型T0風控：NLP技術演進，提升長文本理解和風險識別效果 借助自然語言處理技術迭代發展，有效處理長文 業務場景業務場景之前的解決方案 之前的解決方案 長度外推算法片段粒度算法代表算法：基于RoPE改進的位置編碼代表算法：BlocktransformerYaRN：大型語言模型的有效上下文窗口拓展，2023BlockTransformer:通過全局到局部的語言建模加速LLM推理,2024Mamba:基于選擇狀態空間的線性時間序列建模,2024風控：圖機器學習，提升關聯信息解讀和風險區分能力 業務場景業務場景之前的解決方案之前的解決方案人工經驗人工特征衍生機器自動衍生深度學習KSBaseline22%24%26%異強強偏業務場景風控：時序模型，精準挖掘信貸行為趨勢提升風險識別能力業務場景 模型效果模型效果傳統解決方案傳統解決方案經營：因果推斷，優化額度模型平衡全局風險 缺點1）額度變化后，用戶的風 缺點1）額度變化后，用戶的風度度企業對大模型的需求轉變：由「廣泛探索」轉向「核心業務深化」，旨在大模型專業性、泛化性和經濟性很難兼得大模型專業性、泛化性和經濟性很難兼得專注大模型在企業核心業務中的直接應用專注大模型在企業核心業務中的直接應用金融業應用大模型方式多樣，開源模型調優企業對大模型的核心需求：將私域數據轉化為競爭優勢，并確保場景路線一：直接使用閉源模型路線一：直接使用閉源模型路線二：直接使用開源模型路線二：直接使用開源模型路線三：開源模型+路線三：開源模型+Prompt+知識庫路線四：基于開源模型進行適配調優定制化靈活性高效性.....可控性路線四：基于開源模型進行適配調優定制化靈活性高效性.....可控性開源調優的優勢大模型能力的“冰山理論”顯性能力顯性能力隱性能力隱性能力2GPT-4o-2024-05-133GPT-4o-mini-2024-07-187Gemini-1.5-P8Gemini-1.5-Pro-API-0409-PreviewGoogle閉源9GPT-4-Turbo-2024-04-0910GPT-4-11 中文理解生成欠精準場景適配能力不足實時高效服務受限中文理解生成欠精準場景適配能力不足實時高效服務受限 測評體系建設 測評體系建設?大模型在實際工作場景中得到反?在大規模通用文本數據上訓練，掌握廣泛的語言理解和信息處理?經過行業特有數據的訓練?在大規模通用文本數據上訓練，掌握廣泛的語言理解和信息處理 場景增強 工程增強 算法增強數據增強數據增強模型中文能力提升增量預訓練模型業務效果突破模型中文能力提升增量預訓練模型業務效果突破模型資源成本控制指令微調指令微調強化對齊微調和推理：以最小參數Llama3-8B為例，2張A100顯卡即可微調，一張4微調和推理：以最小參數Llama3-8B為例，2張A100顯卡即可微調，一張4人機共生層人機共生層信貸業務保險業務財富管理智能助手層智能助手層基礎能力層低高 件數：6付款：35.70 開創階段典型代表中文友好文檔理解輕量模型印章印章雙語疊字 表格表格圖形版式量身定制，個性化的投資方案降低投資門檻，實現普惠化的專業投資服務大模型智能投顧 理財投顧Agent 大模型智能投顧 理財投顧Agent 聯度不大。鑒于股價已大幅偏離基本面，后續繼續大幅意投資風險...金可以起到“壓艙石”的效果...建議在做好風險評估傳統客服AI客服3.0AI客服1.0AI客服2.0????????? 平均響應時間減少90%客戶滿意度提升30%人力成本降低60% 信貸營銷場景被濫用于生成虛假信息、欺詐等行為事實性錯誤、邏輯不一致、甚至憑空捏造信息算法歧視、隱私泄露、就業替代等大模型檢索增強大模型檢索增強結合專業知識庫，可以顯著提升生成內容的準確性動態RAG（Random)Zero-Shot說呈現上漲趨勢。…有所下跌……