1本標準由中國電子技術標準化研究院提出，主要參編單位包括華為技術有限公司、北京航空航天大學、上海人工智能創(chuàng)新中心、上海燧原科技有限公司、上海壁仞科技股份有限公司、上海天數(shù)智芯半導體有限公司、軟件研究所、英特爾（中國）有限公司、昆侖芯（北京）科技有限公司、上海依圖網(wǎng)絡科技有限公司、深圳云天勵飛技術股份有限公司、上海登臨科技有限公司、深圳鯤云信息科技有限公司、浪潮電子信息產(chǎn)業(yè)股份有限公司、上海商湯智能科技有限公司、騰訊云計算（北京）有限責任公司、杭州?？低晹?shù)字技術股份有限公司、美的集團（上海）有限公司、浙江大華技術股份有限公司、四川華鯤振宇智能科技有限責任公司、廣電運通集團股份有限公司、山東浪潮科學研究院有限公司、南通大學等單位。具2.編制背景及意義器都有自建軟件及應用生態(tài)的任務，這種現(xiàn)象將給人工智能計算企業(yè)和產(chǎn)2（2）兼容適配：眾多加速器需與眾多計算框架（如機器學習框架）點本標準旨在在各人工智能加速器使能軟件之上與機器學習框架之下，建立中間層。對上，屏蔽加速器的異構(gòu)性；對下，屏蔽機器學習框架的多種接入方式，以達到讓加速器或機器學習框架快速對接而建立或復用生態(tài)3.工作過程制組成立，對該標準的立項達成共識，共同收集相關資料，多次組織專家），工作組成立。召開首次標準研討會，進一步明確標準范圍、目的、標準化分委會成員單位就異構(gòu)人工智能加速器統(tǒng)一接口標準的范圍和關鍵問題，3二、標準編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題加速器的統(tǒng)一接口及其語義，給出了各加速器為實現(xiàn)此接口所需的接入方該標準適用于人工智能加速器接口的設計和實現(xiàn)，也可為人工智能加（2）接口定義，包括模型操作接口、運行時接口、運算接口等；（3）符合性測試方法，包括測試過程、指標及測量方法2.標準編制依據(jù)KhronosOpenCL3.0Specification跨處理器的并行編程接口KhronosOpenCL3.0Specification不專門針對AI計算，不能覆蓋深度神經(jīng)網(wǎng)絡相關操作及相關推理、訓練控制過程。本標準專為人工智能領域計算研制，在并行計算方面，與KhronosOpenCL3.04保持一定兼容。國內(nèi)機構(gòu)對KhronosOpenCL標準的參與受國際關系因素影響較大InteloneAPI1.2跨處理器（主要為CPU-GPU）的編程接口oneAPI標準主要為IntelCPU服務，定義接口的顆粒度和選擇，以Intel指令集和調(diào)用作為第一參考。在并行計算方面，oneAPI與KhronosOpenCL3.0保持一定程度的兼容。本標準為公共標準，且不著重針對CPU-GPU間計算任務的遷移ISO/IECTR17903Overviewofmachinelearningcomputingdevices提供機器學習計算設備的概覽，包含機器學習設備性能相關的特性及其使用方法和指標ISO/IECTR17903由ISO/IECJTC1/SC42中國代表團（SAC）牽頭，不涉及接口，但在國際標準討論中，認為統(tǒng)一接口是技術發(fā)展的重要方向，ISO/IECTR17903為本標準提供國際高水平標準上的理論鋪墊IEEE2937Standardforperformancebenchmarkingforartificialintelligenceserversystems定義了AI服務器，AI服務器集群，AI計算中心（AIHPC設施）性能測試方法IEEE2937規(guī)定典型AI計算設備的性能測試方法，不涉及接口定義。但在系統(tǒng)使用統(tǒng)一接口層時，性能可能稍有損失，使用IEEE2937及相關工具（由電子四院等單位研制）實施性能損失評估，為調(diào)優(yōu)提供依據(jù)3.標準編制原則工智能加速器執(zhí)行機器學習計算任務（模型訓練、模型推理）執(zhí)行的必要及人工智能加速器執(zhí)行控制（如運行時）、模型操作（如編譯、轉(zhuǎn)化）、5在研制過程中，本標準優(yōu)先考慮與其他公共或類似的人工智能加速器盡可能少地侵入各類人工智能加速器的已有技術路線（各種加速器的已有），異構(gòu)人工智能加速器統(tǒng)一接口的定義參考了國內(nèi)主流的人工智能加速標準的參與企業(yè)包含基本全部國內(nèi)外人工智能加速器研制企業(yè)及其國內(nèi)代理（有產(chǎn)品化、商用能力的），當前已有人工智能加速器企業(yè)對接和使用五、產(chǎn)業(yè)化情況、推廣應用論證和預期達到的經(jīng)濟效果人工智能加速器改動指令級或算子實現(xiàn)庫的情況下，幫助人工智能加速器（3）用戶使用：為用戶提供統(tǒng)一接口，屏蔽異構(gòu)加速器的復雜度研制機構(gòu)眾多，芯片產(chǎn)業(yè)發(fā)展迅速，有大量生態(tài)發(fā)展需求。國內(nèi)深度學習框架或其它工具軟件數(shù)量較多，有大量加速器適配工作量。利用中間層屏6蔽硬件異構(gòu)性，是技術界常用的方法，但針對異構(gòu)人工智能加速器統(tǒng)一接口的標準化，在國內(nèi)尚屬首次。ISO/IECTR17903（中國代表研）討論過程中，各國專家認為新中間層有利于解決產(chǎn)業(yè)問題，認為此系未來重要的標準化方向。綜上，利用標準化的技術方案降低應用、維護復通過人工智能加速器統(tǒng)一接口的研制和產(chǎn)業(yè)應用，有望降低產(chǎn)業(yè)中各n種加速器時，兩兩對接需要m*n的總體工作量。在使用人工智能加速器統(tǒng)一接口后，m個框架和n種加速器可分別對接本接口，總體工作量降低使用統(tǒng)一接口，并不阻礙特定框架對特定加速器的適配和使用。對加速器來講，對統(tǒng)一接口的接入，即可獲得多框架的支持。對框架來講，對統(tǒng)一接口的適配，即可獲得多加速器的運行能力。本標準提出一種非侵入七、與現(xiàn)行相關法律、法規(guī)、規(guī)章及相關標準的協(xié)調(diào)性GB/T42018-2022《信息技術人工智能平臺資源供給》定義了各類人工智能物理計算資源的形態(tài)、組成、基礎技術參數(shù)，虛擬計算資GB/T42018－2022標準在內(nèi)容上與本標準無覆蓋關系，但提出的人工智能計算設備可使用各類人工智能加速處理器。本標準旨在促進異構(gòu)加速7源的基本特征，并針對各類計算設備形態(tài)，提出了測試方法器應用的簡化，使其更好地服務于各類人工智能計算設備20203869-T-469《人工智能面向機器學習的系統(tǒng)規(guī)范》定義了機器學習系統(tǒng)的基礎架構(gòu)20203869-T-469標準在內(nèi)容上與本標準無覆蓋關系，但提出的機器學習系統(tǒng)的參考架構(gòu)，為本標準所定義的統(tǒng)一接口，明確上下層部件、組件及運行時關系GB/T42382.1-2023《信息技術神經(jīng)網(wǎng)絡表示與模型壓縮絡》定義了離線模型的表示和壓縮方法GB/T42382.1－2023標準定義的離線模型表示方法針對離線模型，即訓練好的模型。用于不同格式離線模型的互轉(zhuǎn)。本標準定義異構(gòu)人工智能加速器統(tǒng)一接口，與已有標準不存在沖突T/CESA1228.1-2022《信息技術人工智能計算設備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)度》定義了典型（CPU，GPU，NPU，F(xiàn)PGA）人工智能加速處理器的虛擬化方法和基礎調(diào)度模式T/CESA1228.1－2022標準僅定義典型人工智能加速處理器的虛擬化方法和基礎調(diào)度模式，在過程和功能層面，而非接口層面。本標準完成統(tǒng)一接口，可相互配套使用。AI系統(tǒng)的建設，可使用本標準，而不必實施虛擬化過程，也可實施虛擬化，形成更精細的算力切分和調(diào)度CESA-2021-3-018《信息技術人工智能深度學習框架多硬件平臺適配技術要求與評價指標》定義了深度學習框架與各種人工智能加速器直接適配的技術要求和指標CESA-2021-3-018不定義異構(gòu)加速器統(tǒng)一接口。本標準定義的統(tǒng)一