:目錄1 32 53 74 85 126 157 17 隨著新一代人工智能的發(fā)展,大模型(如GPT-4o等)憑借大規(guī)模訓練數(shù)據(jù)、網(wǎng)絡參數(shù)和算力涌現(xiàn)出強大的生成能力、泛化能力和自然交互能力,展現(xiàn)出改變工業(yè)世界的巨大潛力.盡管大模型已在自然語言等多個領域取得突破性進展,但其在工業(yè)應用中的探索仍處于初級階段,當前工業(yè)大模型的系統(tǒng)性研究仍屬空白.工業(yè)應用中特有的異質(zhì)數(shù)據(jù)模態(tài)、復雜多樣的專業(yè)化場景、長流程的關聯(lián)性決策、以及對于可信性實時性的高要求,使得通用大模型無法直接用于解決復雜的工業(yè)問題,亟需開體系架構(gòu)、構(gòu)建方法、關鍵技術與典型應用.從5個挑戰(zhàn)問題的分析出發(fā),提出了工業(yè)大模型的全新定義和體系架構(gòu);同時,提出了工業(yè)大模型的四階段構(gòu)建方法,闡述了工業(yè)大模型核心關鍵技術;然后,基于所提出的工業(yè)大模型6種核心應用能力,探討了面向產(chǎn)品全生命周期的工業(yè)大模型典型應用場景,并給出了“基石”工業(yè)大模型原型系統(tǒng)在生成式人工智能方面的應用實例;最后,探討和展望了工業(yè)大模型未來的研究方向和開放性問題.本文將為工業(yè)大模型這一全新研究方向的開辟與發(fā)展,提供 工業(yè)大模型,工業(yè)基礎模型,生成式人工智能,具身智能,工業(yè)智能體,智能制,),引用格式引用格式:任磊,王海騰,董家寶,等.工業(yè)大模型:體系架構(gòu)、關鍵技術與典型應用.中國科學:信息科學,2024,54:2606–2622,doi:10.1360/SSI-2024-0185RenL,WangHT,DongJB,etal.Industrialfoundationmodel:architecture,keytechnologies,andtypicalapplications(inChinese).SciSinInform,2024,54:2606–2622,doi:10.1360/SSI-2024-0185等任務中展現(xiàn)了令人驚嘆的能力.在自然語言處理領域[2]大模型能夠生成高質(zhì)量的文本并完成復雜的對話任務;在計算機視覺領域[3],大模型能夠?qū)崿F(xiàn)精準的圖像識別并生成高保真的圖像或視頻.此外大模型還在醫(yī)學[4][5等專業(yè)領域展現(xiàn)出巨大的應用潛力,通過對領域數(shù)據(jù)的學習,提供準確的問答、診斷、預測和決策支持.大模型已成為邁向通用人工智能的里程碑技術[4,6].工業(yè)制造業(yè)是立國之本和強國之基建設制造強國是我國的重大戰(zhàn)略決策.在新一代信息通信技術的推動下制造業(yè)正從數(shù)字化網(wǎng)絡化邁向智能化的全新發(fā)展階段[7].如何推進人工智能賦能新型工業(yè)化,培育面向工業(yè)領域的大模型,推動人工智能與實體經(jīng)濟深度融合,成為當前重要的國家創(chuàng)新戰(zhàn)略歐美發(fā)達國家已開始探索大模型在工業(yè)領域的應用.例如,ChatGPT來自動生成可編(PLC)代碼[8]OpenAI采用多模態(tài)大模型操控機器人并嘗試在寶馬制造車間從事簡單的抓取工作1),英偉達正在基于大模型打造通用人形機器人平臺[9].當前國內(nèi)外的研究主要是利用已有的通用大模型尤其是大語言模型,嘗試解決工業(yè)制造業(yè)的具體問題.學術界和產(chǎn)業(yè)界對于工業(yè)大模型的巨大發(fā)展?jié)摿Ρв袠O高的期待.然而,工業(yè)制造業(yè)的復雜性使得工業(yè)大模型的發(fā)展面臨以下嚴峻網(wǎng)等公開數(shù)據(jù)獲取渠道CAX模型、傳題,例如不同類型的傳感數(shù)據(jù)有不同的采樣率和數(shù)據(jù)格式,存在信息冗余和語義不一致性,大模型難態(tài)數(shù)據(jù)特性的深刻理解,使其在跨模態(tài)數(shù)據(jù)協(xié)同處理上能力有限.挑戰(zhàn)二:工業(yè)高可信輸出難.通用大模型對于輸出的精準性可靠性沒有統(tǒng)一的嚴格要求,能夠容.有大模型建立在概率預測的基礎上,輸出結(jié)果不確定性高,難以滿足工業(yè)任務的高精度要求.導致這一問題的原因是大模型的概率特性和非目標驅(qū)動特性,使其難以學習到任務背后的工業(yè)機理和規(guī)律.此外,多任務優(yōu)化與單任務的沖突使得模型在處理高精度任務時可能出現(xiàn)信息沖突和遺忘,降低了單挑戰(zhàn)三:工業(yè)多場景泛化難.通用大模型當前常見的文本或圖像內(nèi)容生成、知識問答等應用場景具有較為統(tǒng)一的底層邏輯,并且大多可基于對話界面完成場景任務.而工業(yè)領域產(chǎn)品全生命周期涵蓋多類不同的應用場景不同行業(yè)不同場景任務需求各異,且生產(chǎn)任務需要機器設備執(zhí)行才能完成,大模型難以適應復雜多變的工業(yè)場景.導致這一問題交互任務,使當前大模型主流應用范式無法適應復雜的工業(yè)場景.挑戰(zhàn)四:工業(yè)多流程關聯(lián)難.通用大模型應用場景涉及的多流程關聯(lián)邏輯性任務較少.而工業(yè)制造業(yè)應用則離不開具有內(nèi)在關聯(lián)的多流程業(yè)務,各個流程任務之間的關聯(lián)和依賴關系往往非常復雜,是一個重要挑戰(zhàn).對于復雜的工業(yè)流程語境和任務間的動態(tài)關系,大模型難以全面理解和認知.導致挑戰(zhàn)五:工業(yè)高實時推理難.通用大模型對于應用的實時性沒有統(tǒng)一的高要求.而工業(yè)現(xiàn)場應用),實時應用中面臨資源受限的挑戰(zhàn).現(xiàn)有輕量化方法如模型剪枝、量化等,雖然在壓縮率和加速效果方面取得了一定進展但仍然無法滿足工業(yè)邊緣輕量實時應用的高要求.導致這一問題的原因是大模型從上述挑戰(zhàn)分析可見,當前通用大模型無法直接用于解決復雜的工業(yè)問題,工業(yè)大模型并不是通當前國內(nèi)外關于工業(yè)大模型的系統(tǒng)性研究仍屬空白.本文提出了工業(yè)大模型的全新定義提出了工業(yè)階段構(gòu)建方法,闡述了工業(yè)大模型核心關鍵技術;6種核心應用能力,探討了面向工業(yè)制造業(yè)全生命周期的大模型典型應用場景,“基石”工業(yè)大模型原型系統(tǒng)在生成式人工智能方面的應用實例;最后,探討和展望了工業(yè)大模型未來的研究方向和開放性問題.定義.工業(yè)大模型是面向工業(yè)產(chǎn)品全生命周期應用的、具有大規(guī)模參數(shù)的深度學習模型體系,包-,,基礎設施層指構(gòu)建工業(yè)大模型所需要的基礎資源包括工業(yè)數(shù)據(jù)、算力、知識等.工業(yè)數(shù)據(jù)涵蓋CAX文件、工業(yè)時序數(shù)據(jù)、機器指令、工業(yè)文檔以及多模態(tài)數(shù)據(jù)如圖像、視頻和音頻等,這些數(shù)據(jù)是模型訓練和操作的基礎.計算資源則包括用于大模型訓練和推理的云邊端算力、存儲以及專為AI運算設計的芯片工業(yè)知識包括工業(yè)通用知識和企業(yè)私有知識涵蓋了行業(yè)規(guī)范、操作文檔、機器3類核心技術的工業(yè)基座大模型.其中,預訓練通過與下游任務無關的工業(yè)多模態(tài)數(shù)據(jù)的初始訓練,使工業(yè)大模型具備理解和處理工業(yè)場景中多模態(tài)數(shù)據(jù)的通用能力.微調(diào)涉及在較小、特定數(shù)據(jù)集上進一步訓練預訓練模型,以提高模型在特定任務上的性能和泛化未見過任務的硬件加速、工業(yè)檢索增強生成等方法.工業(yè)基座大模型是大模型的底座,具備工業(yè)任務的通用解決能力,為更精細的模型適配及場景應用提供了基礎.模型層是工業(yè)大模型的主干部分,面向不同的工業(yè)任務和行業(yè)領域進行適配,形成任務導向大模型和行業(yè)領域大模型.其中工業(yè)任務適配是指以工業(yè)基座大模型為基礎,經(jīng)過多任務指令微調(diào),在保,,1Figure1Thearchitectureofindustrialfoundation,操作人員和經(jīng)營管理人員等,在制造過程中承擔著不同的任務目標;智能體集成工業(yè)大模型的幾項基動感知和控制工業(yè)環(huán)境的能力,能夠自發(fā)記憶、觀測和影響外界環(huán)境;賽博物理系統(tǒng)則包含物理系統(tǒng)((應用層是工業(yè)大模型在服務端的表現(xiàn)形式.工業(yè)大模型涵蓋智能問答、場景認知、過程決策、終6大能力.這些能力使得工業(yè)大模型不僅能完成復雜專業(yè)的問答,還能理解和分析復雜的工業(yè)環(huán)境,作出科學的過程決策,直接控制工業(yè)設備,以及自動生成技術文檔和仿真設計基于這種能力面向工業(yè)制造業(yè)全生命周期運維服務5個工業(yè)環(huán)節(jié)進行支撐應用.2Figure2Theconstructionprocessofindustrialfoundation4個階段:工業(yè)數(shù)據(jù)制備,工業(yè)基座模型訓練,工業(yè)任務/行業(yè)模型適配,工業(yè)場景交互應用,2所示.工業(yè)數(shù)據(jù)制備.在數(shù)據(jù)制備階段,與傳統(tǒng)的視覺領域或者自然語言領域的數(shù)據(jù)不同,工業(yè)數(shù)據(jù)具有更多模態(tài),如傳感器的時序數(shù)據(jù)[10][11]、CAD數(shù)據(jù)[12][13]等.因此,工業(yè)的復雜模態(tài)數(shù)據(jù)的制備方式也更加多樣化,主要包括數(shù)據(jù)收集、預處理、仿真及生成三個流程.首先,可以通過使用公開或企業(yè)自有數(shù)據(jù)集、數(shù)據(jù)爬取和聯(lián)邦學習等多種方式獲取數(shù)據(jù).接著,為了確保模型訓練的效度和可靠性,必須進行一系列數(shù)據(jù)清洗和預處理措施.數(shù)據(jù)清洗包括質(zhì)量過濾、敏感內(nèi)容過濾以及數(shù)據(jù)去重等步驟.針對不同模態(tài)的數(shù)據(jù),還需要進行數(shù)據(jù)標準化等預處理操作,例如對于傳感時序數(shù)據(jù),需要將數(shù)據(jù)縮放到一個統(tǒng)一的尺度,以保證訓練過程的統(tǒng)一性.此外,為了應對大模型對大量數(shù)據(jù)的需求,可以通過仿真系統(tǒng)生成和生成式模型兩種方法增加數(shù)據(jù)量[14,15].生成的數(shù)據(jù)需要經(jīng)過工業(yè)仿真系統(tǒng)的篩選與過濾,剔除不可信的樣本,確保數(shù)據(jù)的可信性,方可用于后續(xù)的工業(yè)基座模型訓練.3個任務工業(yè)自監(jiān)督預訓練、跨模態(tài)注意力對齊以及工業(yè)機理內(nèi)嵌微調(diào).首先,自監(jiān)督預訓練旨在使大模型獲取對工業(yè)領域復雜數(shù)據(jù)集進行特征提[16].接著,模型需要進行多模態(tài)對齊以調(diào)整不同模態(tài)數(shù)據(jù)的向量表征,確保它們在同一語義空間內(nèi)的一致性.在工業(yè)場景中,還需要針對工業(yè)特殊模態(tài)數(shù)據(jù)的特點,在凍結(jié)原有參數(shù)的同時有針對性地重點訓練對應的輸入和輸出映射器,從而在保留預訓練過程中獲得的能力的同時將工業(yè)特殊數(shù)據(jù)與原有模態(tài)對齊.完成注意力對齊后大模型已經(jīng)具備了感知工業(yè)多模態(tài)數(shù)據(jù)的能力但是仍需要進行工業(yè)機理內(nèi)嵌微調(diào)以補齊工業(yè)領域的專業(yè)知識.需要從多種來源收集相關的工業(yè)知識將這些工業(yè)知識轉(zhuǎn)換為可用于訓練的嵌入向量特征[17]然后通過]調(diào).對于工業(yè)機理方程,則可以將機理信息表征為神經(jīng)網(wǎng)絡可識別的特征信息嵌入至模型中[19],或者添加符合物理規(guī)律的后處理模塊實現(xiàn)工業(yè)機理內(nèi)嵌[20],提高模型輸出的合理性.工業(yè)任務/行業(yè)模型適配.完成工業(yè)大模型的訓練過程后,基于工業(yè)基座大模型,需要通過模型適配以獲得適用于具體工業(yè)任務的模型和行業(yè)領域模型從而充分發(fā)揮其應用能力.模型適配過程可以分為針對任務模型的任務適配微調(diào)以及針對領域模型的行業(yè)知識內(nèi)化.首先在任務適配微調(diào)過程中,對不同的任務準備不同的任務指令集,在任務指令集上對模型進行指令微調(diào),提高模型在專精任務上的表現(xiàn).在針對不同工業(yè)任務完成任務模型微調(diào)之后為了使模型應用于各個行業(yè)時具有更強的適配性,還需要進行適配器微調(diào).通過添加小規(guī)模適配層而不改變預訓練模型參數(shù),在減少訓練成本的同時保留預訓練模型的泛化能力,提高在行業(yè)特定的數(shù)據(jù)集上的性能.工業(yè)場景交互應用.在工業(yè)場景交互應用中,“--工業(yè)賽博物理系統(tǒng)”交互體.其中,智能體以工業(yè)大模型的能力為內(nèi)核,并增加其與應用環(huán)境的交互功能,例如主動感知、情景根據(jù)多變的工業(yè)任務目標與協(xié)作同時在模型推理的過程中,(RAG)技術進行推理效果增強.在預先將息,并將其與模型當前處理的內(nèi)容結(jié)合起來,以增強模型的知識理解和回答能力.檢索增強生成技術特別適用于存在大量動態(tài)變化因素的工業(yè)環(huán)境場景.在推理效果增強的同時對于端側(cè)算力不足的情況可以使用工業(yè)輕量端側(cè)部署加速推理技術實現(xiàn)高效實時推理.輕量化技術主要是通過對模型進行在工業(yè)生產(chǎn)中存在大量多模態(tài)數(shù)據(jù),如圖像數(shù)據(jù),設備運行聲音數(shù)據(jù),操作日志中的文本數(shù)據(jù),溫模型難以直接處理并用于任務決策因此,3所示,需要首先訓練工業(yè)模態(tài)編碼器和生成器,然后對不同模態(tài)的數(shù)據(jù)在統(tǒng)一語義空間內(nèi)進行協(xié)同對齊編碼和跨模態(tài)融合,完成預訓練.工業(yè)自監(jiān)督預訓練.自監(jiān)督預訓練旨在對模態(tài)編碼器、模態(tài)生成器和骨干網(wǎng)絡進行預訓練以賦予它們對各自模態(tài)數(shù)據(jù)的語義理解及特征提取能力.這一過程涉及到對工業(yè)領域復雜數(shù)據(jù)的特征提t(yī)oken21或句子[22]和去噪自編碼任務等.出于大模型的自回歸輸出特性,在網(wǎng)絡的預訓練過程中需要采取不同的策略.例如,針對時序數(shù)據(jù),可通過在特定時間點添加掩碼并預測還原來實現(xiàn)預訓練[16]CAX數(shù)據(jù)可以采取序列化處理并輸入到專門設計的拓撲、幾何等編碼器中,以學習草圖和擠壓等各種變化[23].工業(yè)多模態(tài)協(xié)同編碼.為解決工業(yè)場景下不同數(shù)據(jù)的模態(tài)間未對齊的問題,可通過多模態(tài)協(xié)同編碼方式統(tǒng)一表征,縮小或消除模態(tài)間的語義間隔,為后續(xù)多模態(tài)預訓練奠定基礎.針對不同模態(tài)數(shù)據(jù)的特點,需要進行預處理及特征編碼.針對文本數(shù)據(jù),可根據(jù)工業(yè)詞表使用分詞器對文本進行分詞得到詞元序列并對其編碼得到詞元或句子的全局表示針對視覺數(shù)據(jù)行標準化等預處理隨后劃分為圖像塊或點簇,2D3D編碼器轉(zhuǎn)換為統(tǒng)一長度的編碼向量.,,3Figure3Multimodalpre-trainingforindustrialfoundation頻譜編碼器輸出音頻向量表征.針對傳感器數(shù)據(jù),通過間隔采樣提取時序點數(shù)據(jù)進行數(shù)值標準化,并工業(yè)跨模態(tài)對齊.結(jié)合上述對多模態(tài)數(shù)據(jù)的編碼,可通過注意力對齊調(diào)整不同模態(tài)數(shù)據(jù)的向量表征以確保它們在同一語義空間內(nèi)的一致性.具體可通過訓練輸入和輸出映射器來優(yōu)化預定義的目標函數(shù)實現(xiàn)多模態(tài)對齊.多模態(tài)預訓練對齊階段通常涉及大規(guī)模的文本配對數(shù)據(jù)以便有效處理并整合不同模態(tài)的信息[24]利用如自監(jiān)督學習損失函數(shù)[25]優(yōu)化各模態(tài)的編碼器可使各模態(tài)在聯(lián)合嵌入空間中更為接近.然而,工業(yè)場景中涉及的數(shù)據(jù)模態(tài)種類更豐富,因此還需有針對性地設計工業(yè)模態(tài)數(shù)據(jù)對齊方法CAX--文本匹配等,并在保持預訓練模塊如編碼器、生成器、骨干網(wǎng)絡等凍結(jié)的同時重點訓練輸入和輸出映射器.可采用基于聯(lián)合優(yōu)化的投影轉(zhuǎn)換跨模態(tài)融合,或基于交叉注意力的感知增強跨模態(tài)融合等方法.當配對數(shù)據(jù)較為充足時,可采用端到端的方式在混合模態(tài)數(shù)據(jù)進行訓練對齊[26],優(yōu)化跨模態(tài)訓練的穩(wěn)定性.預訓練完成后,大模型能夠獲得應對任務的一定程度的普適性通用化能力.然而,在工業(yè)多場景任務中,大模型通常缺乏工業(yè)領域的專業(yè)知識和機理,導致難以準確理解和處理工業(yè)問題,輸出結(jié)果的可信性較差.因此,需要結(jié)合工業(yè)知識和機理進行微調(diào),4所示.通用知識融合與工業(yè)機理內(nèi)嵌.大模型通常采用指令微調(diào)的方法,即在由人類指令和期望輸出組.,,4Figure4Industrialphysics-informedfine-集相關的工業(yè)知識其次將這些工業(yè)知識轉(zhuǎn)換為大模型能夠理解和處理的形式(頭實體、關系、尾實體),并利用知識圖嵌入技術將知識轉(zhuǎn)為嵌入向量特征用于訓練.最后,使大模型融合工業(yè)知識,可通過將知識圖譜整合進訓練目標以及進行知識圖的指令微調(diào).為將工業(yè)機理方程嵌入到模型中,可將機理信息表征為神經(jīng)網(wǎng)絡可識別的特征信息嵌入網(wǎng)絡架構(gòu)中[19].其次,在模型輸出階段,引導模型輸出符合工業(yè)物理規(guī)律,例如在損失函數(shù)中添加機理方程以懲罰違反物理規(guī)律的輸出結(jié)果[20]此外可根據(jù)機理知識庫中的規(guī)則檢查約束模型輸出符合工業(yè)機理,也可使用仿真工具或?qū)＜蚁到y(tǒng)來驗證模型輸出的可信性和準確性.行業(yè)知識適配器微調(diào).在針對不同工業(yè)任務完成任務模型微調(diào)之后,為了使模型應用于各個行業(yè)時具有更強的適配性,還需進行進一步的行業(yè)知識嵌入微調(diào),使大模型能夠更加精通于某一行業(yè)的專業(yè)知識,從而在各行各業(yè)發(fā)揮更出色的表現(xiàn).在行業(yè)模型的微調(diào)過程中,使用適配器微調(diào)可以在最大限度保留任務模型能力的同時,大大增強模型對不同行業(yè)的適應能力.接下來,需要準備詳細的行業(yè)數(shù)據(jù)集,并在這些行業(yè)特定的數(shù)據(jù)集上微調(diào)模型性能,以提高模型在行業(yè)專業(yè)問題中的表現(xiàn).場景知識內(nèi)化強化自訓練.場景知識內(nèi)化強化自訓練技術旨在應對工業(yè)行業(yè)知識中一些細分場景標注數(shù)據(jù)有限的問題,通過對小規(guī)模標注數(shù)據(jù)進行初步訓練,利用模型生成偽標簽標注大規(guī)模未標注數(shù)據(jù),并引入強化學習設定獎勵機制優(yōu)化偽標簽質(zhì)量,從而提升模型性能.在有限標注數(shù)據(jù)的情況下,這種技術可支持解決工業(yè)細分場景問題的場景大模型微調(diào),從而提高了模型訓練效率和精度.“--工業(yè)賽博物理系統(tǒng)”交互技術.在工業(yè)生產(chǎn)過程中,務人員等.智能體相對于大模型而言,具有更進一步的主動感知和控制工業(yè)賽博物理系統(tǒng)的能力.工,5--Figure5Human-agent-industrialcyber-physicalsystem目標設定,主動規(guī)劃任務流程和優(yōu)化目標,并進行任務分解,設計不同解決方案,同時協(xié)調(diào)各子流程任務關系.同時,人還可以向智能體提供獎懲反饋機制,使智能體迭代優(yōu)化自身策略、不斷發(fā)展進化.在智能體和工業(yè)賽博物理系統(tǒng)的交互過程中具體任務包括工業(yè)環(huán)境監(jiān)控及資源的動態(tài)調(diào)配等.智能體可利用感知能力觀察生產(chǎn)要素條件和生產(chǎn)環(huán)境,再利用優(yōu)化決策能力設計生成對應的控制邏輯,最終控制工業(yè)軟件和工業(yè)設備,應用于工業(yè)賽博物理系統(tǒng)完成生產(chǎn)任務..少模型的計算量和存儲需求提高推理速度.同時,GPU,TPU等高性能硬件的利用,進一步加速推理過程,滿足實時性要求較高的工業(yè)應用場景.此外,推理加速還能降低模型的能耗和成本,提高模型的可用性和普及度.除了滿足實時推理需求以外,在使用工業(yè)大模型進行推理的同時需要用到(RAG)結(jié)合了檢索和生成的方法,適用于工業(yè)場景中的知識密集型任務.首先通過構(gòu)建一個包含工業(yè)知識的數(shù)據(jù)庫,包括產(chǎn)品設計、工藝流程和設備維護等內(nèi)容;然后,利用高效的檢索算法BM25DenseRetrieval,從知識庫中檢索相關信息最后基于檢索到的信息,通過大模型生成更準確和有針對性的回答在工業(yè)制造中RAG系統(tǒng)可以快速提供技術支持、生成維護手冊和優(yōu)化生產(chǎn)流程.Prompt(Prompt)來引導大模型生成符合用戶需求和期望的文本或響應PromptAI技術.用戶可以Prompt預制模板Prompt.(LoRAfine-tuning)是一種低秩適應方法,旨在通過引入少量可訓練參數(shù),實現(xiàn)對大模型的高效微調(diào).對所有編碼器均可采用低秩微調(diào),一方面由于編碼器已經(jīng)經(jīng)過大量數(shù)據(jù)的預訓練,有較強且通用的模態(tài)先驗,而低秩微調(diào)可以避免災難性遺忘的問題.另一方面,低秩微調(diào)可減小訓練參數(shù)量,提升模型訓練速度.基于前述工業(yè)大模型構(gòu)建方法得到適用于具體工業(yè)場景的大模型.本章闡述工業(yè)大模型核心應與通用大模型不同,工業(yè)大模型面向工業(yè)應用的需求,在其獨特的架構(gòu)和訓練方法的支持下,形成以下6種核心應用能力.智能問答能力:工業(yè)大模型不僅應具備通用大模型的文本理解和生成能力,還應具備深入理解和回答工業(yè)領域知識相關復雜問題的能力,提供即時專業(yè)知識的支持.例如,工業(yè)大模型通過工業(yè)多學科多領域?qū)I(yè)知識的推理,能夠為全流程制造任務提供隨時隨地的問答服務,如創(chuàng)新設計案例知識、制造工藝知識等,大幅提升各類工業(yè)用戶獲取專業(yè)知識的效率.場景認知能力:工業(yè)大模型的場景認知能力不僅限于視覺類圖像識別,還應理解工業(yè)環(huán)境中的各種動態(tài)場景和工況的內(nèi)在涵義,為進一步分析和決策提供基礎.例如,通過對設備多維傳感信號模式的理解來識別潛在故障趨勢,通過對生產(chǎn)多工序多任務進度的分析來識別瓶頸所在,從而實現(xiàn)對過程決策能力:工業(yè)產(chǎn)品全生命周期過程中涉及各類決策,例如設計方案決策、生產(chǎn)工藝決輔助人作出決策.例如,工業(yè)大模型通過學習歷史生產(chǎn)過程中各類調(diào)度優(yōu)化方案,基于邏輯推理和演算能力,針對柔性制造產(chǎn)線突發(fā)插單情況給出優(yōu)化調(diào)度方案的決策建議等.用大模型僅局限于軟件系統(tǒng)在數(shù)字空間的交互工業(yè)生產(chǎn)過程需要在物理世界中完成執(zhí)行過程.工業(yè)大模型應通過具身智能體來操控物理世界的機器設備.例如當前機械手面對沒見過的產(chǎn)線零部件抓取任務時,工業(yè)大模型應能夠根據(jù)機器人具身智能體學習到的知識和機械手力反饋等實時傳感信號,內(nèi)容生成能力工業(yè)大模型不僅應能生成工業(yè)特定領域的技術知識文檔和各類報表報告等內(nèi)容CAX模型、傳感信號樣本、工藝文件、機器指令等工業(yè)領域?qū)I(yè)化內(nèi)容.例如,北京“基石”工業(yè)大模型,能夠生成復雜產(chǎn)品多學科仿真系統(tǒng)代碼、產(chǎn)線數(shù)字孿生場科學發(fā)現(xiàn)能力:工業(yè)制造業(yè)建立在一系列物理化學原理基礎上,然而仍存在諸多機理不清之處.工業(yè)大模型具備發(fā)現(xiàn)科學機理和超越人認知水平的高階關聯(lián)關系的能力從而服務于新材料、新.物理系統(tǒng)進行交互完成特定任務.以下介紹典型業(yè)務域應用場景,“6Figure6Typicalapplicationscenariosofindustrialfoundation石工業(yè)大模型原型系統(tǒng)為例給出應用案例編制,存在冗余重復工作且效率較低.工業(yè)大模型學習大量工業(yè)知識和設計理論,能夠根據(jù)需求輔助答形式給出設計指導,同時基于決策能力進行零件參數(shù)設計方案自動化推演,給出合理的尺寸設計方案并自動生成對應的設計文件.除此之外,工業(yè)大模型能夠在新工藝的研發(fā)過程中識別化學反應動力學機理,揭示化學反應機制和影響因素,優(yōu)化材料合成過程,輔助提出創(chuàng)新的產(chǎn)品工藝設計方案.在生產(chǎn)制造階段夠?qū)崿F(xiàn)零部件打磨指令軌跡生成,并自動轉(zhuǎn)化為機器人加工指令,具體控制機器人進行實際加工.同時在加工過程中利用視覺感知能力對加工狀態(tài)實時監(jiān)控并實現(xiàn)對加工過程的動態(tài)調(diào)整.7和圖8所示,“基石”工業(yè)大模型根據(jù)對工業(yè)機器的控制需求生成對應的機器操作指令,以實現(xiàn)機器人自動抓取等復雜任務的執(zhí)行.同時,針對非標準零件的加工需求,工業(yè)大模型基于其決策和生成能力,輔助工程師制定出精確的加工方案,從而提升生產(chǎn)制造環(huán)節(jié)的效率., 7Figure7Exampleofcontrolcommandgenerationforembodiedintelligentrobots

8Figure8Exampleofautomaticprocessgenerationforindustrialparts符合設計要求和行業(yè)標準,并能夠滿足用戶的使用需求.在試驗測試階段,大模型主要針對試驗方案例如工業(yè)大模型對測試進行多模態(tài)感知的計量檢測報告生成,代替人工記錄歸檔,并智能解析試驗數(shù)據(jù),給出對應的試驗分析結(jié)果輔助測試人員評估被測件質(zhì)量.同時工業(yè)大模型跟蹤試驗測試過程記憶流程操作和測試事件,實現(xiàn)質(zhì)量追溯問答,高效精準定位問題部件及問題根因.業(yè)大模型通過監(jiān)測生產(chǎn)經(jīng)營過程中的各類報表數(shù)據(jù),以問答形式向管理人員匯報目前企業(yè)經(jīng)營狀況,生成企業(yè)運營報告,并給出潛在的風險預警.工業(yè)大模型還具備基于決策支持的動態(tài)優(yōu)化能力,能夠根據(jù)訂單插單情況實時調(diào)整生產(chǎn)過程中的資源分配,優(yōu)化供應鏈和排產(chǎn)計劃.最后,工業(yè)大模型具備時,基于過往運營大數(shù)據(jù)關聯(lián)分析,改善生產(chǎn)運營模式.運維服務是指為制造設備和工業(yè)產(chǎn)品提供調(diào)試、維修、保養(yǎng)、升級等技術支持和售后服務以確.例如,工業(yè)大模型基于認知能力實時感知設備運行狀態(tài),發(fā)現(xiàn)設備的潛在故障,并通過智能問答的方式向維護人員提供預防性維修建議.其次,工業(yè)大模型還可以通過生成運行樣本和健康狀態(tài)預測模型輔助運維服務910所示北京航空航天大學“基石”工業(yè)大模型能夠生成工業(yè)時序數(shù)據(jù)樣本.用戶可以上傳想要生成工業(yè)時序數(shù)據(jù)的具體需求,工業(yè)大模型會根據(jù)用戶的需求,生成帶標簽少樣本的工業(yè)時序數(shù)據(jù)來輔助預防性維護預測.同時,工業(yè)大模型,以及生成的大規(guī)模數(shù)據(jù),結(jié)合用戶預測需求,生成相應的工業(yè)時序預測模型,用于預測設備的健康狀態(tài),輔助維護決策. 9Figure9Exampleofindustrialtime-seriesdatasample

10Figure10Exampleofindustrialtime-seriespredictionmodelgeneration工業(yè)大模型已初步展現(xiàn)了其巨大的應用潛力,作為學術界關注的新研究方向和產(chǎn)業(yè)界期待的顛覆性新技術,“點”上開展了初步應用探索,“面”上的應用仍有很大差距,未來仍需要工業(yè)界制造業(yè)企業(yè)深入挖掘?qū)嶋H應用需求,提煉適合發(fā)揮工業(yè)大模型價值的典型應用場景,通過越來越多的應用實踐和需求牽引,豐富和提升工業(yè)大模型的能力.同時,從工業(yè)大模型未來的技術發(fā)展角度來說,工業(yè)領域所追求的應用目標對工業(yè)大模型提出了與通用大模型不同的技術需求,工業(yè)多模態(tài)對齊、高可信度和安全性均提出了嚴苛要求,工業(yè)大模型正朝著機理內(nèi)嵌、統(tǒng)一模態(tài)表征、.Transformer為代表的大模型底層神經(jīng)網(wǎng)絡架構(gòu),底層邏輯建立在概率輸出基礎上,在諸多應用中并不具備深刻理解客觀物理世界的能力.然而無論是離散制造業(yè)還是流程制造業(yè),其物質(zhì)的終端控制、內(nèi)容生成、科學發(fā)現(xiàn)等核心能力的應用中,均離不開工業(yè)機理的底層支撐.盡管通用大模型常用的RAG技術能檢索外部知識源,但涉及到具有復雜數(shù)理化原理和內(nèi)在規(guī)律的工業(yè)機理時,往往難以檢索到精確答案.因此,Transformer等