企業落地大模型的路徑、場景與案例_第1頁
企業落地大模型的路徑、場景與案例_第2頁
企業落地大模型的路徑、場景與案例_第3頁
企業落地大模型的路徑、場景與案例_第4頁
企業落地大模型的路徑、場景與案例_第5頁
已閱讀5頁,還剩36頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

目錄

Contents02.大模型在企業用戶落地進展企業用戶對大模型的預期大模型在行業落地進展大模型在企業落地方式03.大模型在科技廠商落地進展大模型對科技廠商的價值大模型在數據分析、營銷、辦公的落地案例01.中國市場大模型進展與趨勢中國大模型市場全景地圖國產大模型市場機會企業落地大模型路徑01中國大模型市場全景地圖國產大模型市場機會企業落地大模型路徑中國大模型市場進展與趨勢大模型定義大模型:參數量超過10億、具備泛化能力的模型,可以被稱為大模型。大模型小模型AI建模方法深度學習、自然語言處理、多模態技術機器學習、深度學習、自然語言處理、計算機視覺等參數量參數量規模在10億以上參數量規模是幾萬至幾百萬參數應用場景泛語言類場景(自然語言、編程語言等)、多模態場景(文本、圖像、音頻、視頻)場景更加多樣,但生成類場景效果差,不具備多模態泛化能力強,處理多任務效果好弱,處理多任務效果差可解釋性弱強訓練冷啟動成本低任務對齊成本高冷啟動成本高任務對齊成本低推理反饋速度慢準確率低反饋速度快準確率高大模型當前以生成類應用為主,多模態是未來重點發展方向生成類應用對話式交互內容生成代碼開發虛擬專家智能體決策類應用輔助決策:描述、診斷智能決策:預測、指導多模態應用圖像、語音、視頻、結構化數據企業用戶是從應用視角出發,分成生成類應用、決策類應用和多模態應用。受限于模型能力、應用效果等因素,當前階段以生成類應用為主。理解生成推理大模型能力對比美國市場,中國市場在模型層和應用層發展迅速通用大模型應?層模型層基礎層AI芯片高速網絡存儲向量數據庫云平臺行業大模型領域大模型企業大模型中間層大模型應用開發工具數據標注工具提示詞工程工具……金融能源教育出海傳媒電商醫療政務……營銷客服應用開發數據分析……MSP運維服務商ISV獨?軟件服務商SI系統集成商任務大模型三大要素,驅動中國“OpenAI”(通用大模型)必定出現國產化:從IT基礎設施到上層應用軟件的國產化、自主可控需求強烈。銀行、大型央國企在內部明確限制員工使用ChatGPT用于內部辦公、生產場景,5家銀行在1年內有明確采購國產大模型服務的計劃。客群特征:以央國企等集團型企業為主的客群,集團層面要進行大模型能力建設,有明確購買/自研通用大模型的需求。本地部署:從數據安全角度出發,銀行、大型央國企如果將大模型用于生產,必須要進行本地部署。根據愛分析調研,除了部分企業基于開源自研之外,絕大部分國內企業用戶和應用廠商,都在等國產大模型的商業化落地,這是國產大模型最核心的驅動力。國產化服務支持本地部署市場成熟度、監管要求、數據安全等因素推動行業/領域大模型發展監管要求:C端應用短期不會放開,更多應用場景在B端。數據安全:大型甲方企業數據安全考慮,特定場景的SFT數據獲取存在一定難度。FT數據量不大,但需要有很深的行業know-how,獲取難度不低。通用大模型優先訓練通用場景FT數據,特定場景積累需要時間。市場成熟度:很多甲方企業在23-24年有明確上線大模型需求,當前國產通用大模型能力不足。服務支持:中國企業客戶需要端到端服務,傾向于采購行業大模型+業務應用,幾乎不可能直接采購通用大模型,需要有很強的區域服務支持能力。監管要求市場成熟度數據安全服務支持大模型能力建設和應用場景探索是當前企業用戶落地大模型的主要路徑基礎設施建設芯片(算力)大模型訓練模型選型模型訓練與微調大模型應用模型壓縮大模型與小模型結合集團企業重點是大模型能力建設,一般企業/部門重點是應用場景探索。大模型能力建設分成三個層面:基礎設施建設、大模型訓練和大模型應用,當前以基礎設施建設和大模型訓練為主。綜合成本和安全性考慮,智算中心會成為解決算力問題的重要方式自建集群成本高AI團隊要求高安全性高云服務租用性價比高安全性差智算中心成本低于云服務安全性強安全性投入產出比智算中心云服務租用自建集群當前以SFT為主,未來預訓練會成為主流SFT預訓練投入算力成本低算力成本高團隊需要具備模型訓練經驗數據集SFT精標數據SFT精標數據大量無標注數據集模型能力受限于模型本身能力能力增強,但可能出現災難性遺忘安全性受限于模型自身數據集,只能盡可能彌補安全問題很大程度上解決安全性問題未來發展遷移成本低受限于基礎大模型,遷移成本高SFT試錯成本低,成為多數企業的選擇。未來隨著基礎/通用模型成熟和算力持續降低,模型預訓練成為主流方式。當前以小模型為主,模型級聯是未來主要應用方向分成三種形式,現階段以(1)和(2)為主:1)小模型為主,大模型提升小模型的開發效率;大模型與小模型級聯,小模型連接應用,大模型增強小模型能力;大模型與小模型融合以小模型為主大模型提升小模型訓練效率降低數據標注成本大模型與小模型級聯安全性、性價比、準確度大模型提升小模型的理解和生成能力大模型與小模型融合當前主要探索方向02企業用戶對大模型的預期大模型在行業落地進展大模型在企業落地方式大模型在企業用戶落地進展多數企業認為大模型將帶來變革性價值,但應用場景尚需挖掘調研行業分布72%28%關注不關注15%高層部門中層在金融、消費品零售、能源、汽車等重點行業,對大模型現狀進行了摸排調研是否關注需求及來源能源、金融、消費品零售、汽車等行業最為關注大模型85%大型央企等控股集團從高層推動,其他企業多從IT等部門自下而上推動45%39%16%0%觀望學習探索可研試點應用全面應用43%40%12%5%變革性高中低當前階段預期業務價值大模型上線應用以內部生產力工具為主,對客應用囿于監管和大模型技術成熟度,尚需時日大多數企業對大模型預期業務價值抱有高期待1%1%1%1%3%4%4%6%7%9%16%43%咨詢化工交通地產媒體信息技術央國企制造汽車能源消費品零售金融附錄:預期業務價值釋義高預期業務價值由高向低創造新的業務模式,并實現新的業務收入來源在既有業務模式下,業務價值得以顯著增強或業務流程得以重塑,從而明顯增加收入或者降低成本在既有業務模式下,業務流程有所改善,并帶來收入增長或成本下降用戶體驗改善等業務微調,難以與收入增長或成本下降直接關聯變革性中低大模型可分為生成和決策兩類應用場景,決策場景預期業務價值更高生成場景決策場景通過數據分析建模,由系統直接給出能達成預期業務目標的行動方案典型場景:智能決策系統通過數據分析發現業務現象背后的原因,實現業務可診斷典型場景:數據分析通過數據采集和展示,描述業務正在發生什么,實現業務可視化典型場景:數據大屏通過數據分析,判斷業務未來會可能會發生什么,實現業務結果可預測典型場景:機器學習平臺輔助決策智能決策在特定領域,通過對大量的非結構化數據總結,為用戶提供專業意見典型場景:智能客服生成用戶需要的文字、圖片、音頻、視頻、3D模型等典型場景:AI繪畫虛擬專家代碼開發對已有代碼檢查、修正,或根據要求生成代碼典型場景:代碼生成智能體通過對話,調用內外部數據,滿足用戶目標,短期內難實現典型場景:Auto-GPT內容生成描述 診斷對話式交互通過自然語言與用戶進行交互典型場景:聊天機器人預測 指導基于大模型構建的AI原生應用,有望創造變革性價值預期業務價值高或中在既有業務模式下,增強或改善業務流程,帶來收入增長或者成本下降預期業務價值變革性基于大模型,創造全新業務模式,并實現新的業務收入來源。只有大模型才具備涌現能力、泛化能力,從而跳脫出在系統中的模塊局限。小模型時代,系統中只有部分模塊為AI替代。AI應用場景切割的很細,工行1,000+場景、3,000+模型。大模型時代,整體系統具備AI能力,創造全新業務。能源、銀行兩大行業,大模型落地進展最快所處階段觀望學習探索可研試點應用全面上線場景豐富度高中低銀行證券智能問答智能客服數字營業廳貸后報告生成沉睡客戶喚醒能源智能客服設備運檢知識助手檢修文檔生成智能投顧智能投研智能客服制造主機廠消費品零售智能客服千人千面文案營銷圖片生成導購賦能智能風控審計助手智能營銷媒體摘要生成金融產品推薦電力系統仿真平臺電力負荷預測智能問答研發設計輔助藥企藥物研發自動駕駛智能座艙寫作助手智能問答出海智能客服能源企業生成類場景落地速度快,高價值應用聚焦決策類場景3年以上實現主流采納時間生成類1-3年實現大模型帶來的場景價值變化1年內實現決策類 原生應用注:主流采納時間,指被行業內企業用戶主流采納應用的時間。場景價值變革性高中低電力系統仿真平臺電力負荷預測新能源規劃設計設備故障維修資金歸集 設備預測性維護設備運檢知識助手智能客服/虛擬營業廳檢修文檔生成大模型基于設備日志等運行信息進行故障定位,有望成為首個中價值場景設備運檢知識助手場景價值案例對比過去:基于NLP技術構建結構化知識庫現在:利用大模型構建運檢助手預期:效率改善實際:提取效率和效果、交互方式有優化智能客服/虛擬營業廳場景價值案例對比過去:基于Bert模型的智能客服現在:利用大模型改善智能客服的用戶體驗預期:用戶體驗改善實際:意圖理解更準確、語言更擬人化檢修文檔生成場景價值案例對比過去:模板式文檔填寫現在:利用大模型快速自動生成文檔預期:效率提升實際:尚未實現,未知設備故障維修場景價值案例對比過去:傳統故障檢修方法難度大、耗時耗力現在:大模型快速定位故障原因,提供檢修建議和方案預期:故障快速定位與修復實際:尚未實現,未知預測類決策場景是未來高價值場景新能源規劃設計場景價值案例對比過去:新能源供電不穩定,分配不同類型新能源電站強依賴專家經驗現在:利用大模型規劃電站建設最優解預期:提高供給側規劃準確率實際:尚未實現,未知設備預測性維護場景價值案例對比過去:AI算法故障預測能力弱現在:大模型可以提取潛在故障特征,實現對電力設備故障預測預期:提高設備故障預測準確率實際:尚未實現,未知電力系統仿真平臺場景價值案例對比過去:MATLAB等電力仿真工具現在:利用大模型自動實現仿真樣本補充和樣本分布改造預期:豐富仿真樣本庫實際:尚未實現,未知電力負荷預測場景價值案例對比過去:負荷預測考慮實時影響因素少現在:納入更多影響因素實時預測負荷預期:提高預測準確率實際:尚未實現,未知銀行重視大模型在營銷、風控、運營三個方向應用價值主流采納時間1年內實現1-3年實現3年以上實現大模型帶來的場景價值變化生成類 決策類 原生應用注:主流采納時間,指被行業內企業用戶主流采納應用的時間。場景價值變革性高中低數字營業廳沉睡客戶喚醒 金融產品推薦個性化資產配置申請/交易反欺詐智能客服營銷圖片自動生成智能問答助手貸后報告撰寫智能客服場景價值案例對比過去:智能陪練題庫少,缺少針對性現在:基于大模型生產個性化題庫預期:改善培訓效果實際:測試中,預期可以縮短培訓周期營銷圖片自動生成場景價值案例對比過去:設計師在素材庫中選取并設計,耗時天級別現在:Midjourney自動生成預期:降低成本實際:版權成本以及人力成本下降銀行積極探索智能客服場景,強監管環境下尚難以實現面客業務沉睡客戶喚醒場景價值案例對比過去:沉睡客戶分組、喚醒渠道、文案撰寫、喚醒時間等一系列人工策略現在:利用大模型自動生成策略預期:端到端策略改善喚醒效果實際:尚未實現,未知數字營業廳場景價值案例對比過去:3D營業廳以功能展示為主現在:大模型支持的數字人幫助客戶辦理業務、推薦產品完成交易預期:獨立于APP之外的新渠道實際:尚未實現,未知品牌商AI原生應用多點開花,虛擬導購寄予厚望高中低1年內實現1-3年實現場景價值變革性3年以上實現主流采納時間MA智能商品運營 虛擬導購代碼生成營銷圖片生成 智能客服導購賦能實時價格優化CDP千人千面文案 渠道數字化全渠道一盤貨智慧門店大模型帶來的場景價值變化生成類 決策類 原生應用注:主流采納時間,指被行業內企業用戶主流采納應用的時間。大模型的降本價值在營銷圖片生成場景顯著千人千面文案場景價值案例對比①過去:千篇一律的模板式郵件文案現在:出海企業可基于不同用戶生成個性化郵件文案預期:改善客訴率,降低拒付率實際:客訴率難改善,拒付率下降約1‰場景價值案例對比②過去:基于一組標簽的用戶組撰寫營銷文案現在:基于每個用戶生產個性化營銷文案預期:提高銷售轉化率實際:客戶體驗改善,銷售轉化率無變化營銷圖片生成場景價值案例對比過去:品牌商外采采購營銷圖片現在:基于大模型自動生成營銷圖片預期:降低成本實際:降低面向供應商的采購成本智能客服場景價值案例對比過去:基于Bert的NLP智能客服現在:基于通用大模型,客服機器人的交互能力、推理能力更強預期:提升一次接通成功解決率實際:測試場景表現強,無訓練成本大模型長期將對虛擬導購、代碼生成場景帶來變革性價值虛擬導購場景價值案例對比①過去:傳統貨架式電商、直播電商現在:對話式電商,實現商品推薦、選擇、下單等購物全流程預期:收入增長實際:未知,取決于消費者接受度、用戶體驗等場景價值案例對比②過去:直播電商以真人帶貨為主現在:基于大模型的新一代數字人虛擬導購預期:收入增長實際:未知,取決于消費者接受度、用戶體驗等代碼生成場景價值案例對比①過去:Kite等上一代AI代碼補全工具現在:GitHub

Copilot可補全代碼預期:提高撰寫代碼效率實際:測試場景,代碼量10%左右可自動補全場景價值案例對比②過去:Gerrit等代碼評審工具現在:基于大模型可低成本評審全量代碼預期:保證代碼規范性實際:全量代碼規范性審核車企大模型車機端應用預期高,智能座艙優先投入高中低1年內實現1-3年實現3年以上實現場景價值變革性主流采納時間智能座艙自動駕駛營銷圖片生成 智能客服導購賦能千人千面文案大模型帶來的場景價值變化生成類 決策類 原生應用注:主流采納時間,指被行業內企業用戶主流采納應用的時間。大模型在自動駕駛中尚處于輔助角色智能座艙場景價值案例對比過去:人車互動限于特定娛樂、駕駛場景現在:人車互動場景擴展至開放域預期:改善體驗,基于互動產生新收入實際:新收入來源尚未實現自動駕駛場景價值案例對比①過去:人工標注數據覆蓋現在:大模型自動完成標準預期:降低成本實際:數據標注外包成本下降場景價值案例對比②過去:仿真庫基于歷史數據持續積累現在:大模型自動生成仿真場景,覆蓋Corner

Case預期:低成本豐富仿真庫實際:測試進程中,尚未落地藥物研發依然藥企場景中的皇冠明珠大模型帶來的場景價值變化生成類 決策類 原生應用注:主流采納時間,指被行業內企業用戶主流采納應用的時間。高中低1年內實現1-3年實現3年以上實現場景價值變革性主流采納時間AI藥物研發 虛擬醫生臨床應用規劃及推薦臨床試驗文檔管理AI藥物研發場景價值案例基于大模型進行靶點發現、藥物分子篩選、藥物分子優化等,預測藥物與靶點蛋白的相互作用預期:提高研發效率,降低研發成本實際:尚未實現,未知虛擬醫生場景價值案例過去:虛擬醫生做簡單導診現在:大模型基于病例給予診療建議預期:輔助不發達地區醫生診療實際:尚未實現,未知大模型對藥物研發帶來跨越式價值提升,商業化落地仍需時間臨床試驗文檔管理場景價值案例過去:人工撰寫eTMF現在:利用大模型自動生成臨床試驗文檔預期:提升效率實際:尚未實現,未知臨床應用規劃及推薦場景價值案例過去:基于人工經驗進行規劃現在:基于大模型生成藥物臨床試驗設計思路、統計方法等預期:輔助專家提高效率實際:尚未實現,未知大模型在企業內部落地形式,當前以直接調用通用大模型能力為主通用大模型中間層Prompt+思維鏈指令微調(SFT)應用層SaaS應用/傳統軟件工具+服務團隊行業大模型中間層Prompt+思維鏈指令微調(SFT)應用層SaaS應用/傳統軟件工具+服務團隊基礎大模型行業/企業知識庫目前在企業內部有兩種落地方式:1)直接調用通用大模型的能力;2)用行業數據集訓練基礎大模型,形成行業大模型。如何決定落地場景、測試性能、本地化部署均是重要關切問題AI/大模型應用場景梳理場景落地順序規劃首批測試場景的大模型性能測試API調取/本地化部署決策提示詞工程(預處理)大模型與小模型結合應用測試與上線關切問題1:如何決定場景落地順序?關切問題2:如何進行性能測試?關切問題3:本地化部署大模型如何選型?性能合規性價?Vicuna-13B性能合規性價?BloomZ-7B性能合規性價?GLM-6B企業內部業務與IT加速融合,加快數字化落地進展企業數字化建設更加敏捷高效IT部門分化成兩個部分:1)深入業務的ITBP;2)更新維護大模型等基礎設施業務部門1IT部門IT開發團隊ITBP1大模型+零代碼平臺產品經理/項目經理業務部門2業務部門3業務部門1業務部門2業務部門3ITBP2ITBP3IT部門03大模型對科技廠商的價值大模型在數據分析、營銷、辦公的落地進展及案例大模型在科技廠商的落地進展大模型對于科技廠商有三方面價值提升內部生產力增強產品能力重塑產品和商業模式研發:代碼生成,數據標注營銷:營銷內容生成交付:代碼生成培訓:知識庫問答優化產品功能和易用性,提升客戶體驗和滿意度自然語言交互降低用戶門檻,拓展用戶群體開發新功能,拓展能力邊界和客群發掘大模型原生應用場景需求,開發全新產品基于新產品,實現按調用量收費等新商業模式大模型能力當前普遍處于前兩個階段,更大價值預期在大模型原生應用當前進展潛在價值RPABI知識管理低代碼機器學習大模型生成能力對于提升科技廠商內部生產力價值明確:圖片、文本等營銷內容生成,代碼生成,數據標注與數據合成。大模型增強產品能力有初步進展:Copilot

類應用成為“標配”:利用大模型對話、生成等能力的AI

助手,降低用戶使用門檻,提升產品易用性;增強小模型效果:AI

廠商(如智能客服、知識管理)借助大模型在文本等任務中的優異表現,增強產品能力;開發新應用:AIGC

廠商(如數字辦公)利用自研或外部大模型能力,開發新的

AIGC

應用。新商業模式處于探索階段,預期在大模型原生應用現有產品能力增強不足以產生新訂單和提升客單價,需要開發大模型原生應用產品;AI

對服務效果和效率提升預期顯著的應用(客服、營銷等),未來有機會產生新的商業化收入;能夠幫助企業節省算力投入的AI基礎軟件,未來有機會產生新的商業模式。營銷客服AIGC辦公HRIT運維BI:對話式交互促進數據分析平民化,智能洞察將進一步提升價值自然語言交互業務用戶SQL

生成BI平臺行業大模型Prompt+思維鏈指令微調+模型蒸餾通用大模型當前進展應用場景:對話式交互:傳統

NLP

to

SQL

準確性不足,大模型增強后,增加對常識的理解,避免顯而易見的答非所問,提升了用戶意圖識別準確性。預期價值:顯著增強對話式交互能力,降低

BI

使用門檻,促進數據分析平民化,增加用戶數量。實際價值:功能可實現,但企業用戶額外付費意愿較低。潛在價值智能洞察:利用大模型的理解和生成能力,輔助業務人員,對查詢的數據進行分析并生成業務洞察,提升數據分析能力和效率。報告生成用戶數據源低代碼平臺:智能開發助手進一步提升效率,應用生成實現周期長自然語言交互業務人員智能開發助手Prompt+思維鏈API

調用通用大模型低代碼平臺拖拉拽/編寫代碼專業/半專業開發者數據模型生成表單生成腳本代碼生成自動化配置提示內容生成組件……當前進展應用場景:智能開發助手:基于大模型的生成能力,在使用開發過程中提供自動生成數據模型、表單、腳本代碼,以及基于對用戶意圖的理解自動推薦配置等能力。預期價值:提升專業開發者的開發效率。進一步降低門檻,普通業務用戶無需培訓即可使用低代碼搭建簡單應用。實際價值:可實現部分功能,企業用戶額外付費意愿較低。潛在價值應用生成:利用大模型的理解和生成能力,理解復雜應用開發需求文檔,調用低代碼平臺組件化能力直接生成復雜系統。當前大模型的尚不滿足所需推理能力,實現周期較長。營銷:內容生成顯著降低服務成本,千人千面效果有待提升企業知識庫(商品、素材)市場人員提示詞Prompt通用大模型理解查詢 反饋生成內容用戶用戶A用戶B用戶C用戶D品牌商素材A素材B素材C素材D當前進展應用場景:營銷內容生成:傳統模式下需要設計師根據客戶需求在素材庫中搜索素材,并進行設計。基于大模型文生圖能力,可以根據需求描述查詢所需素

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論