健壯人工智能模型與自主智能系統(tǒng)人工智能是研究模擬延伸與擴(kuò)展人類(lèi)的感知、認(rèn)知決策和執(zhí)行的理論方法技術(shù)及系統(tǒng)的科學(xué),經(jīng)過(guò)多年的演進(jìn)新一代人工智能正呈現(xiàn)深度學(xué)習(xí)跨界融合人機(jī)協(xié)同群智開(kāi)放自主操控等新特征.作為引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)人工智能具有輻射效應(yīng)放大效應(yīng)和溢出效應(yīng)正在引發(fā)鏈?zhǔn)酵黄萍铀傩乱惠喛萍几锩彤a(chǎn)業(yè)變革進(jìn)程成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力是經(jīng)濟(jì)社會(huì)發(fā)展的新引擎.世界主要發(fā)達(dá)國(guó)家正在把人工智能作為提升國(guó)家競(jìng)爭(zhēng)力維護(hù)國(guó)家安全的戰(zhàn)略利器加緊出臺(tái)了一系列規(guī)劃和政策年７月國(guó)務(wù)院印發(fā)新一代人工智能發(fā)展規(guī)劃年月科技部啟動(dòng)了新一代人工智能科技創(chuàng)新—重大項(xiàng)目第一批項(xiàng)目指南于年月向社會(huì)公布年月中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)進(jìn)行了集體學(xué)習(xí)習(xí)近平總書(shū)記強(qiáng)調(diào)加強(qiáng)基礎(chǔ)理論研究支持科學(xué)家勇闖人工智能科技前沿的無(wú)人區(qū)努力在人工智能發(fā)展方向和理論方法工具、

系統(tǒng)等方面取得變革性與顛覆性突破確保我國(guó)在人工智能這個(gè)重要領(lǐng)域理論研究走在世界前面關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn).近年來(lái)我國(guó)人工智能基礎(chǔ)研究和應(yīng)用在計(jì)算機(jī)視覺(jué)自然語(yǔ)言處理語(yǔ)音識(shí)別和生物特征識(shí)別等任務(wù)場(chǎng)景明確領(lǐng)域取得了顯著進(jìn)展.當(dāng)前以深度學(xué)習(xí)為代表的人工智能方法的興起在數(shù)據(jù)模型、算力和明確場(chǎng)景結(jié)合下提高了機(jī)器學(xué)習(xí)算法的層次和性能很多新的應(yīng)用和產(chǎn)品已經(jīng)驚艷亮相.然而當(dāng)前人工智能發(fā)展還存在著感知智能適應(yīng)性差、認(rèn)知智能天花板低強(qiáng)人工智能發(fā)展瓶頸突破乏力等挑戰(zhàn).在此背景下國(guó)家自然科學(xué)基金委員會(huì)第期雙清論壇于年月日在浙江杭州召開(kāi).本次論壇圍繞制約人工智能發(fā)展的科學(xué)問(wèn)題和未來(lái)能推動(dòng)人工智能實(shí)現(xiàn)突破性發(fā)展的顛覆性技術(shù)展開(kāi)深入探討凝練和提出我國(guó)在該研究領(lǐng)域急需關(guān)注和解決的重要基礎(chǔ)科學(xué)問(wèn)題以及相應(yīng)的資助模式.來(lái)自北京大學(xué)清華大學(xué)浙江大學(xué)中國(guó)科學(xué)院和阿里巴巴等余所高校研究機(jī)構(gòu)和大型企業(yè)的余位專(zhuān)家以及國(guó)家自然科學(xué)基金委員會(huì)政策局信息科學(xué)部數(shù)理科學(xué)部和管理科學(xué)部的相關(guān)工作人員參加了此次論壇與會(huì)專(zhuān)家從人工智能理論基礎(chǔ)人工智能驗(yàn)證平臺(tái)和人工智能芯片與器件三個(gè)主題方向提煉急需關(guān)注和解決的重要基礎(chǔ)科學(xué)問(wèn)題確定技術(shù)爆發(fā)點(diǎn)為今后年的重點(diǎn)資助方向提供導(dǎo)向性.在會(huì)上與會(huì)專(zhuān)家就人工智能在基礎(chǔ)理論研究、自主智能系統(tǒng)和神經(jīng)形態(tài)芯片等方面存在的熱點(diǎn)問(wèn)題進(jìn)行了分析.１健壯人工智能及其面臨挑戰(zhàn)合理的判斷和決策能力是人類(lèi)生存及發(fā)展的基本能力.在這一認(rèn)知過(guò)程中人類(lèi)面臨的許多問(wèn)題具有不確定性脆弱性和開(kāi)放性的特征因此智能算法應(yīng)該能夠面對(duì)這些挑戰(zhàn)具備健壯能力.健壯人工智能指模型算法對(duì)可能發(fā)生的錯(cuò)誤具有穩(wěn)健性對(duì)未建模問(wèn)題具有穩(wěn)健性.在開(kāi)放世界中無(wú)法為所有問(wèn)題及其解決方法進(jìn)行建模對(duì)構(gòu)建健壯的人工智能系統(tǒng)提出了巨大挑戰(zhàn).經(jīng)典人工智能理論框架建立在以遞歸可枚舉為核心的演繹邏輯和語(yǔ)義描述基礎(chǔ)方法之上由于先決條件問(wèn)題n即枚舉描述促發(fā)某一行為發(fā)生的所有前提條件和隱性分支問(wèn)即枚舉刻畫(huà)某個(gè)行為可能導(dǎo)致的所有后續(xù)潛在結(jié)果的存在難以事先擬好智能算法能夠處理的所有情況因此智能算法在處理

不確定性開(kāi)放性和動(dòng)態(tài)性等問(wèn)題時(shí)難以發(fā)揮作用,需要借鑒神經(jīng)進(jìn)化機(jī)理來(lái)推動(dòng)這一方面的研究.與計(jì)算機(jī)執(zhí)行常規(guī)程序中遇到錯(cuò)誤會(huì)崩潰不同人腦能夠應(yīng)對(duì)不確定性對(duì)錯(cuò)誤具有一定的容錯(cuò)機(jī)制如研究人員在小鼠大腦中發(fā)現(xiàn)一種容錯(cuò)機(jī)制這有助于進(jìn)一步理解大腦是如何工作的.在認(rèn)知學(xué)領(lǐng)域有一個(gè)具有爭(zhēng)議的理論認(rèn)為感知運(yùn)動(dòng)控制記憶和推理優(yōu)化等大腦功能都通過(guò)大腦將現(xiàn)有經(jīng)驗(yàn)和未來(lái)期望進(jìn)行比較而進(jìn)行.也就是說(shuō)大腦在所接受外界現(xiàn)有信息基礎(chǔ)上主動(dòng)構(gòu)建模型計(jì)算所構(gòu)建模型與所期望設(shè)空間之間的概率并加以調(diào)整優(yōu)化即比較現(xiàn)有經(jīng)驗(yàn)和未來(lái)期望進(jìn)行決４].gg區(qū)域神經(jīng)元開(kāi)展的關(guān)于決策神經(jīng)機(jī)制的研究表明[１０],該區(qū)域神經(jīng)元是基于對(duì)數(shù)似然比gd的貝葉斯決策模型完成概率推理c等高級(jí)腦功能科學(xué)家發(fā)現(xiàn)完成大腦獎(jiǎng)勵(lì)功能的多巴胺神經(jīng)元對(duì)期望回報(bào)和真實(shí)回報(bào)的差異進(jìn)行編碼基于預(yù)測(cè)誤差來(lái)幫助動(dòng)物更新對(duì)未來(lái)的期望并做出決策.為了設(shè)計(jì)更加健壯的人工智能需要提升模型錯(cuò)誤的穩(wěn)健性如通過(guò)穩(wěn)健優(yōu)化模型正則化對(duì)風(fēng)險(xiǎn)敏感的目標(biāo)進(jìn)行優(yōu)化以及采用穩(wěn)健推理的算法提升對(duì)于未建模問(wèn)題的穩(wěn)健性如通過(guò)模型擴(kuò)展利用因果模型和采用組合模型來(lái)監(jiān)測(cè)模型表現(xiàn)以檢測(cè)異常健壯人工智能研究需要重點(diǎn)考慮學(xué)習(xí)算法的泛化能力在模型復(fù)雜化和簡(jiǎn)單化之間平衡的正則化探究某一任務(wù)是yC理論等.為了應(yīng)對(duì)這一挑戰(zhàn)各國(guó)政府也開(kāi)始資助若干項(xiàng)目年９月美國(guó)國(guó)防高級(jí)研究計(jì)劃局啟動(dòng)了被稱(chēng)為加速第三波的人工智能探索e項(xiàng)目探索類(lèi)人水平的交流和推理能力以增強(qiáng)對(duì)新環(huán)境的自適應(yīng)能力A認(rèn)為第一波人工智能是以符號(hào)主義為手段主要處理語(yǔ)言和可描述信息;第二波人工智能在數(shù)據(jù)建?；A(chǔ)上從數(shù)據(jù)中學(xué)習(xí)模式以模型假設(shè)的機(jī)器學(xué)習(xí)為手段第三波人工智能以自適應(yīng)和推理為核心目標(biāo).le月啟動(dòng)了“健壯智能的項(xiàng)目旨在加強(qiáng)在復(fù)雜和真實(shí)環(huán)境下的人工智能理解能力.２自主智能系統(tǒng)面臨挑戰(zhàn)自主智能系統(tǒng)一直是人工智能領(lǐng)域中最受關(guān)注的研究和應(yīng)用方向之一自主駕駛系統(tǒng)又是自主智能系統(tǒng)研究中的熱點(diǎn).從年的A資助的斯坦福大學(xué)y項(xiàng)目到年卡內(nèi)基梅隆大學(xué)的b項(xiàng)目再到年的An自主車(chē)技術(shù)的研究已經(jīng)進(jìn)行了半個(gè)世紀(jì).從年紐約街頭的n到年通用汽車(chē)的再到今天的o和我們看到大部分的T巨頭都參與了自主車(chē)的產(chǎn)業(yè)應(yīng)用.由于自主智能系統(tǒng)面臨的場(chǎng)景態(tài)勢(shì)瞬間變化,其對(duì)通用性要求高即自主智能系統(tǒng)應(yīng)該具有對(duì)未知的未知建模特點(diǎn)當(dāng)前自主智能系統(tǒng)在實(shí)現(xiàn)中暴露出許多問(wèn)題如決策混亂控制不力和故障頻發(fā)等.為此需要發(fā)展健壯人工智能的理論與方法來(lái)提升自主智能系統(tǒng)性能.自主智能系統(tǒng)面臨如下挑戰(zhàn)由于任務(wù)環(huán)境不確定決策信息不完全通信交互受限而導(dǎo)致無(wú)人系統(tǒng)協(xié)同決策智能化程度低和協(xié)同任務(wù)不能有效完成的不足系統(tǒng)呈現(xiàn)非線性的復(fù)雜性以及通信存在時(shí)延而導(dǎo)致多個(gè)自主智能系統(tǒng)交互融合魯棒性差多個(gè)自主智能系統(tǒng)組成更大規(guī)模的復(fù)雜結(jié)構(gòu)使得單個(gè)節(jié)點(diǎn)計(jì)算和通信能力無(wú)法支撐巨大計(jì)算開(kāi)銷(xiāo)如何將人為干預(yù)控制與系統(tǒng)的自動(dòng)化算法相結(jié)合從而實(shí)現(xiàn)人—機(jī)機(jī)—機(jī)協(xié)作.３神經(jīng)形態(tài)芯片面臨挑戰(zhàn)神經(jīng)形態(tài)計(jì)算是借鑒大腦神經(jīng)網(wǎng)絡(luò)架構(gòu)和信息處理原理構(gòu)造適合處理動(dòng)態(tài)復(fù)雜信息的計(jì)算范式,具有計(jì)算存儲(chǔ)融合存算一體時(shí)空整合編碼異步高容錯(cuò)復(fù)雜互連等特點(diǎn)更適合非結(jié)構(gòu)化數(shù)據(jù)與智能任務(wù)處理在能效硬件代價(jià)等方面優(yōu)勢(shì)顯

著同時(shí)具有高度并行自適應(yīng)性高魯棒性等優(yōu)勢(shì),可與傳統(tǒng)計(jì)算互補(bǔ)共生.與專(zhuān)用智能加速芯片不同神經(jīng)形態(tài)芯片更加強(qiáng)調(diào)器件架構(gòu)和算法等原理上的仿生而非面向特定智能任務(wù).現(xiàn)有神經(jīng)形態(tài)計(jì)算芯片的技術(shù)路線主要包括基于S的神經(jīng)形態(tài)芯片如、d和等和基于新型器件的神經(jīng)形態(tài)芯片如憶阻器相變單元自旋器件和h等但該領(lǐng)域研究仍面臨多方面的挑戰(zhàn).基于S的神經(jīng)形態(tài)芯片采用的神經(jīng)元和突觸模型通常較為單一難以反映生物系統(tǒng)中神經(jīng)元和突觸功能的多樣性單個(gè)神經(jīng)元和突觸單元的實(shí)現(xiàn)需要較多S器件芯片規(guī)模提升存在天花板.在基于新型器件的神經(jīng)形態(tài)芯片方面人工突觸器件的性能可塑性一致性有待進(jìn)一步優(yōu)化人工神經(jīng)元器件研究仍較為有限缺乏理想的人工突觸器件和神經(jīng)元器件.此外現(xiàn)有神經(jīng)形態(tài)器件支持的算法仍然比較有限一方面現(xiàn)有器件對(duì)包含時(shí)序信息的動(dòng)態(tài)復(fù)雜信息處理算法等缺乏有效支持另一方面面向神經(jīng)形態(tài)器件和芯片的算法研究不足已有算法尚未充分發(fā)揮神經(jīng)形態(tài)器件的信息處理動(dòng)力學(xué)優(yōu)勢(shì).神經(jīng)形態(tài)器件的大規(guī)模集成技術(shù)仍是難點(diǎn)缺乏基于新型神經(jīng)形態(tài)器件的芯片級(jí)驗(yàn)證.為了解決以上問(wèn)題需要尋找更適于仿生智能任務(wù)處理的底層器件芯片架構(gòu)和應(yīng)用算法并開(kāi)展器件—電路—架構(gòu)—算法的協(xié)同優(yōu)化研究.探索如何減少硬件開(kāi)銷(xiāo)和功耗如何用較少的硬件代價(jià)有效實(shí)現(xiàn)多樣性神經(jīng)元行為多樣性突觸行為智能高效動(dòng)態(tài)信息處理如何有效實(shí)現(xiàn)自主學(xué)習(xí)自主演化高容錯(cuò)性以及如何從硬件上實(shí)現(xiàn)從自動(dòng)到半自主最終走向全自主的智能系統(tǒng).４未來(lái)５年擬重點(diǎn)資助方向的建議認(rèn)知行為的信息處理機(jī)制從腦認(rèn)知機(jī)理和神經(jīng)科學(xué)中獲得靈感和啟發(fā)發(fā)展新的人工智能計(jì)算模型與架構(gòu)讓機(jī)器具備對(duì)物理世界最基本的感知與反應(yīng)使機(jī)器具有常識(shí)”推理的能力能快速思考推理和學(xué)習(xí)能憑直覺(jué)了解真實(shí)世界.新的機(jī)器學(xué)習(xí)計(jì)算方法與架構(gòu)人工智能算法能對(duì)環(huán)境圖像視頻語(yǔ)言語(yǔ)音情感行為等進(jìn)行自然理解具備強(qiáng)泛化能力知識(shí)與規(guī)則引導(dǎo)的小樣本學(xué)習(xí)結(jié)構(gòu)自?xún)?yōu)化等能力研究新型非神經(jīng)網(wǎng)絡(luò)的深度模型研究弱監(jiān)督學(xué)習(xí)緩解標(biāo)注數(shù)據(jù)獲取的困難研究開(kāi)放環(huán)境下的機(jī)器學(xué)習(xí)突破封閉靜態(tài)環(huán)境的束縛魯棒適應(yīng)任務(wù)環(huán)境變化.機(jī)器智能的評(píng)價(jià)體系與評(píng)價(jià)方法圖靈測(cè)試已無(wú)法適應(yīng)對(duì)機(jī)器智能進(jìn)行量化分析無(wú)法用來(lái)評(píng)估機(jī)器對(duì)任務(wù)理解和執(zhí)行的水平;發(fā)展新型智能評(píng)價(jià)體系與評(píng)價(jià)方法來(lái)驅(qū)動(dòng)和引導(dǎo)人工智能深入研究.面向人工智能的開(kāi)源平臺(tái)為使用者提供多種靈活的解決方案支持多種數(shù)據(jù)源和數(shù)據(jù)格式豐富的I接口為多種編程環(huán)境提供支持為各種大數(shù)據(jù)提供便捷可拓展的數(shù)據(jù)建模和分析建設(shè)人工智能領(lǐng)域的基礎(chǔ)算法庫(kù)知識(shí)庫(kù)和數(shù)據(jù)庫(kù)建設(shè)開(kāi)放共享的人工智能計(jì)算平臺(tái)建立國(guó)家級(jí)大規(guī)模語(yǔ)言知識(shí)庫(kù).面向神經(jīng)形態(tài)計(jì)算的智能芯片與器件研究支撐神經(jīng)形態(tài)器件的新機(jī)理與新器件結(jié)構(gòu)實(shí)現(xiàn)高效多功能可集成神經(jīng)形態(tài)器件包括神經(jīng)元器件和突觸器件研究基于神經(jīng)形態(tài)器件的集成技術(shù)基于S和新器件的存算一體新架構(gòu),研制基于神經(jīng)形態(tài)器件的智能芯片并實(shí)現(xiàn)器件算法和應(yīng)用開(kāi)發(fā)環(huán)境的協(xié)同優(yōu)化.新一代智能的數(shù)學(xué)模研究網(wǎng)絡(luò)化學(xué)習(xí)博弈與決策在線算法量子算法分布式群體智能計(jì)算變分推理復(fù)雜網(wǎng)絡(luò)動(dòng)態(tài)演化和涌現(xiàn)機(jī)制不確定性量化和適應(yīng)性設(shè)計(jì)算法的魯棒分析和設(shè)計(jì)等內(nèi)容.自主智能系統(tǒng)基礎(chǔ)理論與關(guān)鍵技術(shù)自主智能無(wú)人系統(tǒng)作為最高級(jí)別人工智能的體現(xiàn)形式是未來(lái)人工智能的主要發(fā)展方向其基礎(chǔ)理論研究的創(chuàng)新將是未來(lái)人工智能發(fā)展的源動(dòng)力.研究視聽(tīng)觸氣激光等新型智能傳感器關(guān)鍵技術(shù)和智能自主控制器研究具有高精度自主定位與導(dǎo)航自主規(guī)劃與智能控制環(huán)境自適應(yīng)與進(jìn)化等特點(diǎn)的無(wú)人終端控制系統(tǒng)智能協(xié)同控制技術(shù)以及感知芯片與計(jì)算系統(tǒng).

人機(jī)共融工業(yè)智能系研究知識(shí)驅(qū)動(dòng)的制造過(guò)程決策自動(dòng)化基于模式認(rèn)知的智能自主調(diào)控安環(huán)指標(biāo)的智能預(yù)警與溯源等技術(shù).針對(duì)全球化的市場(chǎng)需求基于互聯(lián)網(wǎng)和信息物理系統(tǒng)通過(guò)自主學(xué)習(xí)和主動(dòng)響應(yīng)來(lái)重塑供應(yīng)鏈并優(yōu)化商業(yè)行為實(shí)現(xiàn)企業(yè)經(jīng)營(yíng)管理和決策的智能化.面向工業(yè)生產(chǎn)過(guò)程和系統(tǒng)基于智能感知和人機(jī)交互技術(shù)構(gòu)建智能化和綠色化的柔性制造模式重塑產(chǎn)業(yè)鏈和價(jià)值鏈實(shí)現(xiàn)工藝優(yōu)化和生產(chǎn)全流程整體優(yōu)化.上述研究主題可歸納為健壯人工智能前沿理論與方法和自主智能系統(tǒng)兩個(gè)重點(diǎn)方向具體如下:健壯人工智能前沿理論與方法.內(nèi)容包括:對(duì)未知問(wèn)題建模與環(huán)境自適應(yīng)能力健壯人工智能的可解釋性和可驗(yàn)證性