開啟智能金融新時代?中國金融大模型發展白皮書第二章聚焦行業：金融行業大模型概述2.2金融行業大模型應用落地面臨的挑戰第四章金融行業大模型的應用路徑與關鍵能力4.1金融機構落地大模型的應用路徑4.2金融機構選擇或部署大模型時的關鍵能力要素第五章展望未來：金融行業大模型的發展趨勢5.2行業應用場景的拓展趨勢oAI大模型成為新質生產力的重要組成部分，國內外科技公司正加AI大模型已成為新質生產力的重要組成部分，能夠大幅提高生產效率，優化資源配置，降低生產成本，為企業高質量發展提供強大的技術支持和動力。當前，美國、中國、日本、歐盟等全球主要地區的科技公司正加大大模型技術的創新及應用。在未來GenAI投資分配上，中國和全球企業幾乎都會平均分配在生產力提升應用場景、跨行業水平職能應用場景、以及垂直行業專屬。金融行業AI大模型的研發投入和應用較為顯著，且具有一定的應近兩年，金融行業在AI大模型的研發投入和應用方面亦走在市場前列。根據196.94億元，到2027年將達到415.48億元，增幅達到111%。同時，金融行業屬于信息密集型、風險規避及強監管行業，在推進大模型落地過程中，相比其他領域，金融行業對數據質量、推理準確性及響應速度，以及在管控、輔助運營到外部對客提效、從業務邊緣到核心，相應地AI對金融機構的價值也逐漸增大。在未來18個月內，支付清算、智能投研、內部研發（代碼生成、測試等）、數據分析（報表生成與分析、數據建模、數據決策等）、欺詐/洗錢/威脅監測、資產管理（資產盡調、資產評估及定價等）是金融機構落地可以從場景應用評估與選擇（如技術解決方案評估、項目管理及風險評估、投資回報分析）、以及面向場景的工程化落地（如模型選擇、技術路線、數據及算力準備、模型訓練及調優、以及系統集成與部署、組織協同。金融機構應根據其資源能力選擇不同的大模型應用路徑，并需打當前，不同類型的金融機構在推進大模型的落地中，有著不同的路徑選擇，其可根據自身戰略目標、業務需求、技術能力、資源稟賦、風險偏好來決定是否自主建設、基于已有模型微調，或是采用其他方式來利用GenAI能力。值鏈管理、模型的選擇與部署、AI平臺搭建、以及AI治理等要素能力。尤其在金融場景中有效發揮價值的基石，其核心目的是提升數據質量、數據可用性以及確保數據的合規獲取，有利于金融機構面向不同的應用場景快速構建。多模態技術、AI智能體、以及通過大小模型協同應用和構建大模隨著大模型技術的發展，大模型的參數規模也將顯著增長，多模態技術及智能體亦將在金融機構中深入應用。一方面，多模態之間的融合將使得AI大模型能更深刻地捕捉復雜場景背景、細節和情感，使其更快的感知和適應場推理-決策-組織/行動”的閉環，及其在數據處理、智能決策與自然交互等方面的卓越能力，預示著它將在客戶服務、業務流程優化及業務效率提升等多認為，通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。同時，通過構建大模型生態資源共享平臺，向金融機構提供大模型應用當前，人工智能正以前所未有的速度和規模滲透到我們生活工作中。人工智能是數字基礎設施建設的重要組成部分，是新一輪科技革命和產業革命的核心驅動力，在人工智能技術的加持下，全球的數字化轉型已進入倍增創新階段，同時以2024年1月31日，習近平總書記在主持二十屆中共中央政治局第十一次集體學習時，進一步強調發展新質生產力是推動高質量發展的內在要求和重要著力點。而以AI大模型為主的新技術，作為各行業的新質生產力的重要組成部分，能夠大幅提高生產效率，優化資源配置，降低生產成本，為企業高質量發展提供強大的技機協同將為業務洞察與決策提供新的能力支撐，為金融機構構建領先的新質生產力。未來推動金融業逐步走向智能化金融的演化，實現超高數據處理與實時決策當前，大模型技術加速發展，美國、中國、日本、歐盟等全球主要地區的科技公司正加大大模型技術的創新及應用。美國在生成式AI方面起步較早，OpenAI、在中國，百度、阿里、華為、騰訊、京東、科大訊飛、字節跳動等科技公司也紛紛發布了基座大模型，且加速推進其在各行各業的落地。而歐盟的科技公司也加速應用生成式AI，且其更傾向于在細分領域（如醫療、金融等）應用生成式AI，而不是開發通用的大規模生成模型。例如，英國的DeepMind是生成式AI領域的重要力量，其生成模型在文本生成、游戲AI等方面表現突出。日本在生成式AI的技術開發上相對滯后，其在機器人和自動化領域具備全球領先的技術實力，但在不過，日本的一些企業和科研機構也在逐漸跟進，根據日本政府發表的《信息通信白皮書》表示，未來的增長潛力不容忽視。71.1%的受訪者表示，在合適的情快速發展，百度的“文心一言”、阿里的“通義千問”大模型作為帶動產業/組織服務效率及范式變革的重要技術，已經具備較高的識別準確率和較強的場景泛化性，在多模態的任務下也有明顯的突破，全球諸多企在未來GenAI投資分配上，中國和全球企業幾乎都會平均分配在三類應用場景上目前，基礎大模型建設已經較為完整，諸多云服務商、AI技術服務商、數據服務商等均推出其基座大模型，且各具特色，未來將會進入大模型應用跑馬圈地階段，行業應用場景數量也將爆炸性地多元化增長，且會逐漸從輔助運營類的業務金融業在我國經濟中舉足輕重，金融機構通過提供資金流動和管理服務，為個人、企業和政府的各種經濟活動提供必要的資金支持。近兩年，金融行業不斷地利用新興技術推進業務高質量發展，尤其是在AI大模型的研發投入和應用方面亦如今，金融科技已經從“立柱架梁”邁入了“積厚成勢”新階段，越來越多的金融機構積極使用AI大模型等新技術助力其實現高質量發展。AI大模型雖在金融行業有較多的應用場景和應用價值，但是，金融行業屬于信息密集型、風險規避及強監管行業，在推進大模型落地過程中，相比其他領域，金融行業對數據質量、推理準確性及響應速度，以及在風控、合規、安全層面的要求都更高。同時，根據IDC調研數據顯示，數據治理、模型治理以及合規應用是金融機構落地大模型/在數據層面，金融行業處理的數據往往涉及客戶的隱私信息、交易記錄等敏感數據，數據來源多樣且數據質量參差不齊，而數據規模、數據質量和多樣性會影響大模型在具體場景應用的效果和性能。若輸入的基礎數據不準確或時效性較差或存在數據操控問題，那將直接影響模型微調效果，以及模型輸出的準確性。同時，訓練數據可能存在性別、種族及主觀因素等方面的偏見。如果這些偏見被應用到金融決策中，可能導致模型在決策和預測中產生不公平或歧視性的結果，如何解決數據的合規獲取及保護信息/內容版權，并合理設置相關的訴訟機制和監管及罰款機制，也是金融機構落地大模型需要解決的問題。因此在數據準備階段，涉及數據獲取、數據脫敏/數據處理、數據清洗和數據標注等復雜工作，在在模型層面，金融行業業務復雜度更高，金融領域的決策和分析通常要求精準的回答和實時的響應，對模型推理的推理速度和精度都有較高的要求。如果金融大重的決策損失和較差的用戶體驗。在應用人工智能技術時，大模型因其黑盒效應（復雜的模型結構和龐大的參數，難以線性化表達），可解釋性、透明性及安全性也有待提高，金融機構需著重解決大模型的安全性和可解釋性、透明性，以防在安全與合規層面，金融領域對于數據安全、監管合規和風險控制具有嚴格的要求，需要遵守各種法律法規和國家金融監管機構的要求。大模型在應用中必須確保符合風控和合規要求，防止欺詐、洗錢等非法活動，并保護客戶利益。同時，隨著網絡攻擊手段的不斷升級，大模型在部署和運行過程中需要采取嚴格的安全措施，防止數據泄露、篡改和非法訪問。此外，在當前市場中，圍繞提升客戶體驗、增強數字化經營能力，深度服務客戶已成為推動金融機構發展的關鍵要素，金融行業大模型落地各個環節需要以客戶體驗為中心，且GenAI應用又促使金融大模型在金融機構中的應用場景廣泛，且應用成本較高，所需關注的安全合規問題較多，金融機構需以謹慎的態度去推進大模型的應用落地。如何選擇合適的應用場景及如何推進其在金融場景中的有效落地，是當前金融機構在大模型應用落首先，在應用成本考量方面，金融機構訓練模型需要大量的算力資源，資源調度需要使用更優化的硬件設備來提升訓練速度。尤其是在處理千億級參數的大模型時，對算力的需求更是呈指數級增長，其所投入的成本也較高。根據IDC調研顯示，算力限制及技術投入成本高是金融機構在推進大模型/生成。其次，在應用場景選擇方面，在推進大模型落地時，有哪些大模型應用場景可供選擇，如何選擇合適的大模型落地場景是諸多金融機構面臨的問題，需要重點考慮模型方案（如模型選擇、模型適配性、模型能力域及性能、模型更新速度等），并面臨很多數據難題（如數據質量、數據可用性、數據安全及合規等）和業務難題（如業務需求、應用價值評估、以及ROI等），在此。同時，在應用路徑選擇方面，金融機構在推進大模型落地時，面向不同的應總體來說，生成式AI雖然可以提供低成本、高價值的解決方案，但在應用成本考量、應用場景選擇、應用路徑選擇等方面仍面臨諸多問題。金融機構需綜合考慮應用場景選擇、成本控制、安全合規等多方面因素，采取科學、謹慎的策略，以類場景（文案、代碼、翻譯等通用類場景）、信息和業務處理類場景（智能化知識抽取、金融知識的理解和生成、政策研報解讀）、管理和業務決策類場景（信貸審批、理財投顧等決策類場景），從而為金融機構帶來運營效率提升、產品/服務模式創新、客戶體驗提升等價值。根據IDC調研數據顯示，在當前，信息和業務處理類場景及內部運營類場景是當前金融機構主要的應用方向。而在未來12個月，管理和業務決策類場景的應用比例有所提升，尤其是保險機構在該類場景銀行（含銀行金融科技子公司）保險證券（含央同時，根據IDC調研數據顯示，目前及未來式AI的場景按照調研統計比例如下圖所示。其中，智能客服、內部運營（搜索與問答、知識管理/內容創作、輿情管理、HR等）、智能投顧/財富管理、智能營銷（內容營銷、產品營銷等）以及風險管理（風險評估、風險識別、風險預警等），是金融機構當前落地較成熟的場景（按照調研比例從高到低排序）。而在未來18個月內，支付清算、智能投研、內部研發（代碼生成、測試等）、數據分析（報表生成與分析、數據建模、數據決策等）、欺詐/洗錢/威脅監測、資產管理（資產盡調、資產評估及定價等）是金融機構主要的落地場景（按照調研比例圖6是IDC根據調研結果，并從復雜度/成本、部署進程維度列出了金融行業主要場景的分布圖。其中智能客服、智能辦公、智能營銷等場景落地復雜度較低、應用進程較快；而智能投研、智能投顧、智能風控等場景落地復雜度較高，應用進0.智智血銀行業生成式AI應用場景梳理IDC認為，生成式AI的行業應用往往都是循序漸進的過程，一般是逐漸從內部輔助運營到外部對客提效、從業務邊緣到核心；相應地，AI對金融機構的價值也逐漸增大。如下圖，IDC認為，銀行業生成式AI應用可以貫穿到銀行業務鏈條的各個環節，包括從面向員工的管理和支持到面向市場的數字營銷和運營自動化、從。第一階段（2024年）的應用場景有：金融知識助手、財務健康分析、輿情監控、合規監測、網絡欺詐識別、現金流動性預測、個性化營銷等。以現金流勢和評論（如監管/決策層的評論），將其轉化為準確、可靠和可操作的領先。第二階段（2025年）的應用場景有：合成數據生成、客戶報告生成、智能客服、貸款專員助手、客戶關系管理、SAR報告自動化等。以貸款專員助手為例，GenAI可以通過訪問客戶賬戶歷史記錄，評估其需求/偏好，并就未來的貸款和其他銀行產品提供營銷建議。貸款專員在通過多渠道為客戶提供信貸審核或信貸產品推薦時，商業銀行可以通過相關GenAI應用為其提供培訓工第三階段（2026年及以后）的應用場景有：風險模型訓練、支付分析、信用風險識別、財務合同管理/財務預測、銷售合規等。以風險模型訓練為例，商業銀行通過使用包括開放、非結構化數據源、合成數據來預訓練或優化風險模型，以便為客戶群提供風險決策支持，最大化減少風險。例如，在智能投顧場景，借助于預訓練大模型能夠對金融文本進行整體認知和理解，消除人為的主觀因素，提供客觀的投資建議，同時也能不斷演進和創新，減少對人合規與報告客戶溝通和支持員工管理和支持如圖8，在保險行業，生成式AI的應用主要分為數字投資產品、數字風險服務、。第一階段（2024年）的應用場景有：保險數據檢索&總結、保險元數據生成與標記、理賠員助手、承銷商助手以及自動化智能外呼和索賠欺詐監測等場景。以保險元數據生成與標記為例，GenAI通過解析和生成元數據層、掌握語義關系和主題標記，學習大量數據集的元數據模式，自動生成符合規范的元數據。這包括但不限于文檔標題、描述、關鍵詞、分類標簽等，有效減輕。第二階段（2025年）的應用場景有：風險教育&助手、捆綁式保險產品營銷、網絡威脅建模與預防、會話質檢、動態按需提供服務等場景。以個性化保險業務為例，保險機構通過開發出基于機器學習和GenAI評估單個商用車風險的工具，工作人員可以分析不同的數據，如車輛類型和事故歷史，進行。第三階段（2026年及以后）的應用場景有：私密數據合成&負責任的AI、合欺詐預防數字投資產品數字風險服務仿生操作智能風控數字運營彈性如圖9，生成式AI在證券與投資業的應用場景較為豐富，其主要分為合規與報告、客戶溝通和支持、員工管理和支持、運營自動化以及風險管理和金融犯罪等在第一階段（2024年）的應用場景主要有：知識查詢、金融產品適用性分析、超個性化金融培訓、客戶入職培訓助手、客戶報表生成、合成數據生成、信用風險建模助手等場景。以金融投資產品適用性分析為例，生成式人工智能可以幫助金融專業人員根據模擬場景分析客戶數據，例如歷史購買金融投資產品的對象特征及風險偏好，分析潛在的投資目標，同時幫助金融機構識別并控制投資風險，根據風險狀況生成量身定制的建議，并確保符合適第二階段（2025年）的應用場景有：超個性化投資建議、客戶細分和客戶錨定、欺詐檢測和預防、合規檢測自動化、交易監控&市場監控、投資組合優化和資產配置自動化、客戶情緒分析、金融知識個性化生成，以及金融數據泄露預測與防范等場景。以投資組合優化和資產配置自動化為例，生成式AI可以根據不同的市場狀況和歷史趨勢，并根據不同客戶的風險偏好、投資期。第三階段（2026年及以后）的應用場景有：金融證券交易策略、資產智能定價、情景化和個性化的客戶溝通、市場流動性預測建模，以及模擬談判輔導等場景。以資產智能定價為例，生成式AI通過分析市場數據、實時和歷史數據以及其他相關輸入來生成準確、動態的定價模型和高度精細的估值方法，合規與報告客戶溝通和支持員工管理和支持在大模型在金融行業落地中，場景選擇難是諸多金融機構的痛點，如何選擇GenAI應用場景，使AI能力與業務場景無縫融合，讓GenAI真正賦能于業務提效、成本節約、業績提升或體驗升級，充分發揮GenAI應用潛力。IDC認為，金融行業生成式AI應用場景的落地可以從場景應用評估與選擇（如技術解決方案評估、項目管理及風險評估、投資回報分析）、以及面向場景的工程化落地（如模型選擇、技術路線、數據及算力準備、模型訓練及調優、以及系統集成與部署、。場景應用評估與選擇一般可以從技術解決方案、項目管理及風險評估、投資回報分析等角度評估與選擇GenAI的具體金融應用場景。但是從謹慎的角度，金融機構可遵循由簡單到復雜、由內而外、由點及面、逐步推進的原則選擇與推進金融大模型的應用場景。同時通過下述評估方法確定采用GenAI后在相關的金融場景能發揮哪些潛力，并明確自身的業務目標和需求，例如提升客戶體驗、提高運技術在場景中的應用還面臨著一些挑戰（如2.2節所述），在技術解決方案的評估方面，亦需重點考慮GenAI是否可以解決金融業務場景中的需求或痛點，現有技術或資源（如基礎設施資源、基礎模型等）可以解決哪些問題，哪些技術/模塊需要自建或外采，哪些需通過與技術合作伙伴共同構建，從而綜合考慮業務實施可行性?即概念驗證、項目實施決策既要著眼于場景，也要考慮基于GenAI的實施方式，下列因素將有助于確定某個項目或項目集是否行得險管理、成本及資源、數據及基礎設施資源、財務風險?包括機會成本運營風險?包括公關風險、法律風險和合規風險競爭風險?競爭對手采用類似技術的影響資本支出?所需的預付資本運營費用?維護/支持所需的日常支出人才資源?現有團隊、新員工、GenAI總擁有成本?長期綜合成本盈利能力?預期回報、凈利潤、投資回收期長期價值?長期財務及ROI影響預估戰略契合度?評估與公司當前戰略的契合度市場趨勢和客戶接受度?是否符合市場發展趨數據和基礎設施資源?可用的數據能力、基礎設舊有系統的集成能力?與現有技術的兼容性監管及合規挑戰?GenAI面臨的具體挑戰，包現。但是，這些成果可能是有形的，即可以用特定KPI衡量的回報，也可絡效應或其他方式帶來了可觀價值。以知識管理為例，和法律相關的數據和深度知識集成到一個基于數據的GenAI應用中，形成特定主體的數據和深度知識，呼叫中心的客服專員使用答客戶金融和法律領域幾乎各方面的問題，因此縮短了高了首次呼叫解決率。該應用用到的數據集涵蓋數十萬份金融和法律文件，使40個國家/地區的多達15,000名員工能夠即時訪問需要的數據。該解決方案還提高了員工對產品的了解，從而也提高了客IDC認為，GenAI的場景應用是一項系統工程，涉及模型選擇、技術路線選擇、數據及算力準備，以及模型訓練及調優、系統集成與部署、組織協同等程化適配，或直接通過SaaS化模式使用大SaaS化：即插即用，但數據安全與定制當前，不同類型的金融機構在推進大模型的落地中，有著不同的路徑選擇。有金融機構自主開發和預訓練的金融大模型；基于通用大模型并通過提示詞設計、模按需接入各類金融大模型或通過標準化SaaS模式接入GenAI應用。金融機構可根據自身戰略目標、業務需求、技術能力、資源稟賦、風險偏好來決定是否自主建該路徑往往需要金融機構投入較大的IT資源和人力資源，與之對應的金融應用場景也較為復雜，需要大模型在金融領域專業知識、術語及政策等方面具有專業的理解能力；這些場景對模型精度、模型安全，數據的可用性、豐富性、安全性，以及業務合規等都有較高的要求，故自主開發和專門訓練的金融垂類大模型可能會更好地滿足這些需求。根據IDC調研數據顯示（如圖11），金融機構考慮為GenAI構建自有模型的主要考慮因素有成本/花銀行（含銀行金融科技子公司）保險證券（含央例如，某證券與投資服務公司，基于其海量的數據資源，如宏觀經濟數據、行業經濟數據、企業研究報告、上市公司信息披露等結構化和非結構化數據，以及交易所、政府部門、科研機構、高等院校、專業行業數據公司等機構提供的授權數據，同時為了提高模型的通用能力，該公司自主研發了大模型，從訓練語料、訓練框架到模型結構的設計，均從零開始、創新性地構建基礎模型及金融大模型，并且在預訓練階段就融合了金融領域的語料，而不是在微調階段。這種做法使得模型在知識學習上更為深入，能夠理解金融領域中的復雜關系和概念。此外，為了加速AI能力面向各場景的深入落地，該公司構建了AI開放平臺，目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能質檢機器人、會議轉寫系統、智能醫療輔助系統等多項AI產品及路徑2：基于通用大模型/開源模型，疊加金融服務領域數據，通過使用參數微這種路徑是金融機構基于基礎模型，通過私域數據集進行模型訓練調優，以實現金融機構金融大模型的建設，該方式在特定任務上表現出來的性能和在特定領域知識的深度理解會更強。在IDC的調研中，金融機構為GenAI使用第三方現有模型的主要因素是成本/花費、模型性能/模型參數、以及數據可得性及數據隱私等尤其是在數據層面，向量數據的管理和合成數據生成是金融機構著需解決的問括數據管理流程的整個生命周期,已被用于檢索增強生成，因為它們可用于對存儲為高維數據的非結構化數據集執行搜索，可以輕松地與現有數據庫集成，從而為應用場景，例如產品推薦、異常檢測和業務分析等。而合成數據生成涉及創建模擬真實數據特征的人工數據集。在分析中，它用于解決隱私問題和數據稀缺問題，或模擬各種測試場景。通過生成代表性數據，可以在不泄露敏感信息的情況下開發和完善模型。這種方法可以加速創新，提高模型性能，尤其是在處理有限銀行（含銀行金融科技子公司）保險證券（含央在模型訓練及調優方面主要通過微調、提示詞設計、檢索增強生成(RAG)等方微調：使用金融領域數據和人工監督來調整預訓練的模型，以提高金融領域選擇該方式的考慮因素：具有特定領域性能的高復雜性用例，例如智能投檢索增強生成（RAG）：將金融領域的文檔集合與預先訓練的模型相結合，選擇該方式的考慮因素：金融機構擁有該領域的專有數據和標簽數據。適用的應用場景包括內容搜索/金融知識問答、事實調查/欺詐識別/風險監控、內選擇該方式的考慮因素：適用于不需要特定領域的上下文的用例，同時允許用戶級控制產生特定任務輸出的場景，以便客戶可以更加精準地獲得其想要未來，隨著諸多基座模型的開源，以及一系列低成本的微調/檢索增強生成等技例如，某國有銀行從算力、數據、大模型、場景等維度推進大模型的落地：在算力層面，通過構建一體化云原生的異構算力平臺來管理和調度多元異構的AI算力資源；在數據層面，圍繞“采建管用”閉環，構建大模型訓練和持續提升的基礎數據閉環；在大模型方面，其基礎模型是采用第三方開源模型，包括業界主流的開源模型以及正在做共建和聯創的產業大模型，各個基礎模型之間可以無縫切換，具有靈活的適配性，而對于金融大模型平臺，包括NLP、CV、多模態等大模型，主要是通過組件化（例如微調組件、RAG組件等）方法快速優化各類開源模型和商業模型，以實現各類金融場景的接入，目前已在智能客服、智慧三農、智這種路徑主要是以SaaS模式面向金融機構提供服務，通過將生成式AI模型能力封裝為API服務接口，金融機構以外采訂閱的形式，可以通過API將GenAI模型嵌入自研應用軟件增強智能化水平，或是基于API創建定制化的全新智能應用，通過選擇該路徑推進GenAI應用的場景往往是那些標準化程度較高的通用類場景，金融機構通過API接口的形式將第三方生成式AI內嵌于應用之中，可以開箱即用。例如，某金融機構通過使用某云廠商合作（即：金融機構外采模式），利用云廠商的全棧解決方案（從計算基礎設施到數據庫，再到金融場景服務）來幫助金融機構構建其GenAI支持的SaaS，所有這些都在云服務環境中完成。如此客戶就無需啟動大量工具和服務來開發GenAI功能。該方法在數據保護方面，主要是通過金融機構也可以與AI基礎大模型廠商、AI大模型平臺服務商、以及AI應用開發和集成服務商、咨詢/服務商等戰略合作伙伴合作推進G與基礎大模型廠商合作方面，通過選擇與業務應用場景相匹配的基礎大模型，例如如果金融機構需要將大模型應用在面向零售業務的智能客服場景，則其應優先選擇在自然語言處理方面有較大優勢的基礎大模型。在與大模型平臺服務商合作方面，通過與AI平臺服務商合作構建多種AI工具和能力（如自然語言處理、圖像識別等多種能力和工具），用于支持AI應用的開發與部署，并集中管理AI模型、運維和治理確保AI系統的穩定運行和合規性。在AI應用開發和集成服務商方面，通過選擇利用廠商在該領域的AI應用開發與集成能力，綜合來看，不同路徑的選擇對于金融機構內部人才、數據以及預算的要求等各不相同；同時，鑒于金融對專業性要求較高，且需要遵守各類流程和規范，每一種路徑對于戰略競爭優勢、模型控制以及安全和隱私等方面的影響均有不同。上述內部人才?數據和預算的要求內部人才?數據和預算的要求生產力用例功能用例據評估對私有/公有化低戰略競爭優勢、模型控制、治理、安全、隱私IDC認為，金融機構在落地大模型的過程中，需要綜合考慮數據價值鏈管理、模金融機構的數據價值鏈管理是生成式AI在金融場景中有效發揮價值的基石，其核心目的是提升數據質量、數據可用性以及確保數據的合規獲取，有利于金融機構面向不同的應用場景快速構建高質量的數據集，并為后續金融大模型的規模應用奠定堅實的基礎。目前市場中已存在通過構建多模數據管理平臺DMS或是通的獲取、生成、處理和管理，以確保全面、多樣化和高質量的訓練數據的可用性。同時，生成式AI數據價值鏈管理能夠顯著提升模型輸出的準確性和安全性。通常，數據價值鏈往往包括：數據采集、數據存儲、數據標注、數據精益、訓練1從各種內部和外部來源收集原始數據的過程，可能涉及收集大量文本、代碼、圖像或其2支持多種類型的存儲需求，包括結構化數據和非結構化數據（如圖像、音頻和視頻3對選定的數據集進行注釋或標記，以加快監督式機器學習過程。雖然不是所有生成式AI4確保嵌入到Prompts中的數據高質量、可靠、及時、準確、完整，并適用于其使用上下56采用人工審核、多渠道數據驗證和用戶反饋機制等方法，確保數據準確性，并糾正模型7在推理或模型轉換過程中，保護個人或公司敏感信息不被泄露。進行數據安全和隱私分8使用標準、策略和指標實時監控數據使用及流動情況，確保主要活動中的數據隱私和安9提供處理和訪問大量數據的標準工具和技術，如數據管道、數據復制等。確定數據所有運用數據挖掘、統計、商業智能和預測工具來理解數據，為AI開發人員和數據科學家提在模型選擇方面，往往涉及如下問題，例如是否選擇開源模型、選擇何種開源模型、選擇何種模型開發及模型優化方式、如何部署模型等，金融機構可以根據業務需求、任務類型、數據量級、以及業務場景的技術投入和其對安全合規等因素去選擇合適的模型。尤其是需要評估大型模型開發與金融業務場景之間的匹配度，了解模型在實際場景中的應用方式及應用價值，確保其符合業務需求（具體開源模型通常已經過驗證，可以快速部署和測試，能有效降低開發成本，提升開發速度，適用于場景驗證及成本投入不高的機構。而在開源模型選擇方面，通常需要根據具體需求開發成本較高，可滿足高定制化、安全性需求，例如金融行業部分應用場景對模型的透明金融機構可以根據業務類型，如貸款、投資、保險等，以及不同業務場景下的模型應用需求及其對數據安全與合規要求等因素，考慮具體的模型部署方式。通常，私有化部署具有數據安全性高、自主可控性強、可定制化程度高等特點。公有云部署成本最低、靈活性金融機構在選擇提示詞設計、微調、檢索增強生成（RAG）等方法的考慮因素及場景選擇由于金融行業大模型應用場景豐富，隨著大模型與證券、保險、銀行業務的融合，將迸發出大量的GenAI應用開發需求，亟需AI平臺來提高模型構建及編排效率、應用開發部署效率。根據IDC調研數據顯示（圖14），大多數金融機構受訪者表示，他們已經選擇或正在評估使用GenAI平臺來幫助其開發、運營和管理領先的云供應商應在其AI平臺中添加多種模型，以滿足客戶對數據集、參數和開放的各種需求。在算法模型庫的建設方面，組織需要將開源的算法，自研的算法等都統一管理。在模型訓練方面，搭建基于CPU和GPU的分布式訓練框架。在模型推理方面，統一實現離線批量預測和在線預測的功能，包含推理等。基于這些基礎組件的能力，搭建一站式AI開發工作流，從特征篩選到特征處理、樣本構建、模型訓練調試評估、模型的部署和實驗，再到后期模型的運維監控，貫穿算法開發的整個流程。IDC認為，未來生成式AI開發平臺將向更普惠及一鍵式RLHF訓練工具）以實現面向不同的應用場景實現模型優化，也是十分必要的。這些工具包含大模型優化及應用擴展能力，使大模型能夠更有針對性地服務特定應用。例如，某證券與投資公司，在推進大模型落地中所推出的AI開放平臺包含模型開發、模型調優、推理加速等能力，目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能同時，為了提高模型在具體業務場景中的推理準確性及安全性，推理時始終需要高質量、最新的數據，以提高模型返回內容的準確性和相關性。而且，在推理過程中，所使用的信息流也存在暴露敏感信息（個人或公司）的可能，金融機構可此外，為了更有效的推進大模型在金融業務場景中的應用，金融機構也可以自建或通過與外部廠商合作，提供面向場景共享復用、開箱即用的組件或能力，以及模型運行管理服務（例如模型更新和監測等），從而加速金融機構的GenAI應用。根據IDC調研數據顯示（如圖15），大多數金融機構受訪者表示，預計在未來12個月內將使用模型運行管理服務（例如模型更新和監測等）來推動大模型的銀行（含銀行金融科技子公司）保險證券（含央指智能中樞平臺，通過智能中樞的任務感知、決策、執行、反饋等能力實現金融復雜場景的應用；沉淀“X”可共享復用的范式能力，包含多模態知識檢索、對話式數據分析、智能化文檔編寫、交互式智能搜索、陪伴式智能研發等多項金融同時，金融機構在選擇外部服務商搭建GenAI平臺時，可以提供豐富的開箱即用的能力以支撐多樣場景的落地，GenAI平臺的可擴展性、安全性，以及在金融行業的大規模生成式AI落地經驗是其最看重的三項能力。目前，中電金信也幫助多家金融機構開發了GenAI平臺，例如其向某機構構建了企業級人工智能研發平臺和研發體系，通過沉淀AI原生應用的研發規范，打造AI場景應用的標桿，并建設基于大模型的服務管理平臺，在已有數據中臺基礎之上集成公文文檔和外部情報數據，開發了信息情報工作站、智能公文寫作兩個場景應用；在另一個典型案例中，幫助某頭部城商行構建了人工智能融合中臺，通過建設大模型平臺，實現底層資源統一池化管理、提供一站式的數據工程、模型訓練調優、大模型評估、推在模型治理方面，其需要解決模型幻覺、模型偏見以及模型的審計跟蹤及其可解釋性等問題。例如，可以通過增加數據多樣性和規模、改進模型結構、建立反饋機制等措施來應對模型幻覺；通過數據清洗和預處理、多樣化數據集、公平性評估等措施來應對模型偏見；通過記錄模型訓練過程、模型版本控制、輸出日志記管要求、遵循公平透明的行業規則、維護用戶為先的價值取向的方式進行大模型和GenAI的設計、開發和部署。金融機構在推進大模型落地中，秉承負責任的AI原則，有助于確保所有操作符合法律法規，減少違規風險和潛在的法律訴訟，并輔助實現維護金融系統穩定的社會價值。金融機構在推進負責任的AI方面，一方面，在開發AI時注重公平性，避免偏見確保AI系統具有透明性，決策可以被解在大模型應用鏈條中的風險治理方面，在大模型的應用前先分析預判可能存在的各項風險，金融機構可以將AI模型風險納入整體風險管理框架，并建立專門的AI監管報送平臺、流程和規范，集成多源數據，包括模型訓練數據、運行數據、監控數據等，實現數據的統一管理和分析，同時可以根據業務需求，將平臺劃分為不同的功能模塊，如數據采集模塊、風險識別模塊、報告生成模塊等，實現靈活尤其是在數據主權和合規體系建設方面，由于在金融領域，數據的敏感性極高，直接關系到客戶隱私、商業機密乃至國家安全。因此，金融機構必須確保對其數據擁有絕對的控制權，即數據主權。技術服務商需能夠提供完善的數據管理機制，確保數據在采集、存儲、處理、傳輸等各個環節中都能被金融機構有效掌法》及《個人信息保護法》等），金融機構在選擇技術服務商時，會重點考察其是否具備構建和維護符合國內外法律法規要求的合規體系的能力。這包括數據加隨著大模型技術的發展，大模型的參數規模也將顯著增長，如OpenAI的GPT系成和上下文理解能力。未來，這種趨勢也將繼續，其不僅能極大地提高大模型在多模態模型也將在金融行業普遍應用。多模態模型能夠處理文本、圖像、音頻、視頻等多種類型的輸入，并且通過多模態融合與跨模態理解，可以更有效地用于各類復雜問題的求解，從而極大地豐富其應用場景。例如，OpenAI的CLIP（將圖像和文本映射到相同的向量空間）、DALL-E（通過文本生成圖像）、Meta的ImageBind（支持六種模態，包括圖像、音頻、文本等）等。這些模型能夠在圖像識別、文本生成、音頻理解等多方面表現出色。這種多模態之間的融合也將使得AI大模型能更深刻地捕捉復雜場景背景、細節和情感，使其更快的感知和適應通過傳感器或數據接口收集環境信息，運用算法處理數據，制定決策或規劃行動方案，并最終執行這些決策以影響環境，實現預定目標。AI智能體將成為下一代-決策-組織/行動”的閉環，其在數據處理、智能決策與自然交互等方面的卓越能力，預示著它將在客戶服務、業務流程優化、市場預測等多個關鍵領域發揮核心作用，為金融機構帶來前所未有的價值創造。為了實現在復雜場景中的業務決策，金融機構也可以引入Agent系統，以處理那些單靠提示詞難以實現的復雜業務場景，進而達到高效的自動化決策。尤其是在智能客服、智能質檢/陪練等產品創新，以及風險評估、個性化金融咨詢以及智能評估場景，為用戶提供更加精開源服務與開放生態成為主流趨勢。國內外大模型開放平臺、開源模型/工具，能有效加速大模型技術演進，金融機構可以在開源基礎上進行二次開發，滿足其個性化需求，賦予中小金融機構使用前沿AI技術的能力，從而加速大模型在不同金融場景中的廣泛應用。IDC認為，未來大模型在金融領域的生態化發展，例如通過構建大模型生態資源共享平臺，向金融機構提供大模型應用所需的全套資源，包含算力等基礎設施資源、通用大模型及各類專業領域小模型等多樣化的模型資源、金融業務的各類場景應用資源，以及連接金融產品和服務終端用戶，是軟硬件、工具之間協同也能優化降低大模型開發和應用成本。金融機構可以充分利用硬件加速技術、優化軟件架構和構建靈活的工具鏈，有效提升計算效率，減大模型訓練和推理的效率。同時，通過分布式訓練、跨平臺部署以及端到端工具鏈，使得模型能夠更加靈活地適配不同的硬件資源，并可以隨業務需求靈活擴展或縮減規模。例如，NVIDIA推出的CUDA和TensorRT配合GPU硬件，不僅加速了訓練過程，還在推理階段進一步提升了運行效率。或通過硬件加速器（如TPU）和軟件框架支持的優化算法，模型可以在推理中以較低的計算量實現較高當前，阻礙大模型在金融行業應用的主要因素之一是高昂的算力成本。在訓練大模型或推理大模型過程中，金融機構需要消耗較大的算力。通過使用分布式計算、云計算資源及高效的硬件設施（如GPU/TPU），將大模型的訓練任務分配到多個GPU或TPU上，以并行處理的方式加快訓練速度，可以降低模型訓練的時間和成本。同時，通過優化模型架構，精簡網絡結構、減少層數或神經元數量，降低不必要的復雜性，有助于節省資源。通過構建模型管理機構以模塊化設計方式復用不同任務間的共享組件；通過構建可組合、可重用的模塊，不僅可以簡化訓練過程，還能夠方便地遷移模型到其他領域或任務場景未來，隨著大模型在預訓練及推理過程中算力成本的降低以及模型性能的提升、模型架構的優化，其在管理和業務決策類場景（例如信貸審批、理財投顧等決策類場景）中也將發揮出更大的應用價值，將作為業務決策的輔助決策者，與人類共同完成復雜的分析任務。通過模型提供的數據洞察和決策建議，決策者可以更此外，通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。金融機構應加強研究和推進大、小模型協同、生成式技術與傳統人工智能技術協同，大模型與小模型協同發展；大模型在自然語言處理、計算機視覺等領域展現出強大的能力，但同時面臨著高昂的計算資源需求；而小模型則通過精準的數據集和優化算法，能在特定任務上展現卓越性能，甚至超越某些大模型。尤其是在金融行業，大模型與小模型的結合也將為這些行業提供更全面、更高效的解決方案。大模型可以完成高維度、非結構化數據的初步處理，而小模型則在關鍵節點進行細化分析和快速決策，從而實現協同工作。例如金融機構在反欺詐過程中，既需要識別復雜的欺詐模式，也需要在交易發生時實時做出快速決策。由于大量數據的復雜性，僅依靠大模型會帶來過高的計算成本和延遲。此時，如果通過大、小模型之間的協同，大模型對交易數據進行模式分析和風險評估，識別出潛在的欺詐特征；而小模型則在交易時進行快速篩查，驗證是否符合風險特征庫中成立于1995年，中電金信是中國電子控股的二級化咨詢及軟件提供商，以及重點行業數智化轉型服務的專家，我們致力于利用數智科技創造更美好的世界。秉承中國電子“打造國家網信事業戰略科技力量”的使命，中電金信通過持續的技術創新和參與國家重大工程，依托豐富的行業場景，構建了新型數字基礎設施“源啟”。我們為金融及重點行業的數智化轉型和安全發展提供全面的技術平臺、應用軟件和專業技術服務，將中國的數智化轉型中電金信匯聚了4萬名國內外員工，在全球31個城市設立了交付中心。29年的發展歷程中，我們始終專注于行業需求，通過保障安全、加速創新、升級體驗和優依托中國電子的核心技術優勢和組織平臺，中電金信聯合科技領域的生態伙伴，以市場為導向，以研究院為載體，憑借強大的技術專家服務團隊，融合先進技術與創新基因。我們研發形成了從數字基礎設施、異構集群管理、AI智算底座到數多年的國際化戰略布局和豐富的海外服務經驗賦予了中電金信卓越的國際視野。我們拉通海內外及行業間的技術體系和市場，引入國外的先進技術及標準流程，更好地支撐金融及重點行業的數智化轉型。同時，我們為中國企業走出去提供通中電金信堅持嚴格執行質量與安全管理原則，建立了符合國際標準的安全與質量憑借出色的行業服務能力，中電金信在行業中確立了領先們連續7年位列IDC中國銀行業解決方案市場第一名，連續10年入選IDC全球金融中電金信面向金融、能源等重點行業，可提供智能平臺、智能模型和智能應用的整體解決方案，幫助企業智能化轉型升級。下圖是中電金信AI領域的整體能力全景圖，公司在人工智能領域重點圍繞人工智能平臺、金融大模型、計算機視覺、知識圖譜等幾大領域進行布局，通過多年的研發和沉淀，相關AI產品和能力已在行業人工智能平臺知識圖譜平臺金融級數字底座“源啟”金融級數字底座“源啟”決策智能化運營智能化管理智能化中電金信的智能算力底座是支撐人工智能應用和服務的基礎設施，提供高性能、高可靠性和高可擴展性的計算資源。它集成了多種硬件和軟件能力，并優化算力資源的接入、管理、調度和編排，形成了一個統一的計算平臺。該智算底座能夠為各種數據處理任務、訓練框架、推理服務、智能應用提供所需的計算資源和軟服務編排與部署資源池化動態調服務編排與部署資源池化動態調裸金屬管理異構算力接入彈性伸縮云裸金屬管理異構算力接入彈性伸縮云數據中心算力云服務算力第三方加盟算力數據中心算力云服務算力第三方加盟算力包括數據工程工具鏈和大模型的訓QLora微調DeepSpeed數據標注數據増強