人工智能與風(fēng)險治理體系的重構(gòu)

人工智能的“替代”:大數(shù)據(jù)和算法的“創(chuàng)造性破壞”在農(nóng)業(yè)社會，人們通過植物和動物了解世界。在工業(yè)社會，人們通過蒸汽機征服世界。在互聯(lián)網(wǎng)時代，人們通過路由器連接世界。在人工智能時代，人們改變了世界。就像望遠鏡讓我們能夠感受宇宙,顯微鏡讓我們能夠觀測微生物一樣,人工智能但脫胎于現(xiàn)代性的人工智能風(fēng)險也如影隨形般發(fā)生了,數(shù)據(jù)涉及的隱私權(quán)問題頻發(fā),年初支付寶年度賬單默認勾選《芝麻服務(wù)協(xié)議》被質(zhì)疑侵犯隱私權(quán),百度涉嫌侵害消費者個人信息安全被江蘇省消保委提起公益民事訴訟。而算法涉及的政治倫理問題也開始顯現(xiàn),特朗普團隊利用數(shù)以千萬的Facebook數(shù)據(jù),通過挖掘算法使總統(tǒng)大選獲勝;世界上首起UBER自動駕駛汽車公共道路致死案也在美國亞利桑那州發(fā)生。隨著平臺企業(yè)將人工智能的商業(yè)邏輯推向極致,大數(shù)據(jù)和算法潛在的風(fēng)險和“創(chuàng)造性破壞”也必將隨之爆發(fā),國家主權(quán)、生產(chǎn)關(guān)系、社會結(jié)構(gòu)及法律秩序等關(guān)鍵議題都面臨著“顛覆式重構(gòu)”。這集中體現(xiàn)為隱私與數(shù)據(jù)權(quán)、數(shù)據(jù)歧視、倫理與人格尊嚴(yán)、生態(tài)、就業(yè)、貧富兩極化、國家能力及國家安全等系列問題。正如馬斯克所說:“人類下一個生存威脅恐怕就是人工智能。對于人工智能應(yīng)該在國際或者國家層面上有相應(yīng)的監(jiān)管措施,以防人類做出不可挽回的傻事來。”基于此,筆者主要討論的是人工智能的風(fēng)險以及人類的法律應(yīng)對。一方面,以費雪的“行政憲制主義理論”一、心翼翼在汽車中的駕駛與駕駛生活在人工智能時代,不像是處在一輛被小心翼翼控制并熟練地駕駛著的汽車之中,更像是坐在朝向四方疾馳狂奔的不可駕馭的野馬身上,膽戰(zhàn)心驚,更不知道未來會發(fā)生什么。(一)人工智能實踐中的問題在一個到處充斥著數(shù)據(jù)的“人工智能時代”,人類社會正在從“原子世界”向“比特世界”演進,不斷演繹著“人是生而平等的,卻無往不在枷鎖之中”的事情,人工智能賦予了人類很大的自由,人類實踐著空間維度的自由,甚至開始追求時間維度的自由,但過于泛濫的大數(shù)據(jù)卻給予了人類太多的選擇,能力有限的人類變得如同遇到洪水猛獸般不知所措。這就是未來社會的不可預(yù)測性,“被動自由”問題變得日益突出。這主要由以下原因?qū)е?第一,大數(shù)據(jù)的“全體性”“混雜性”及“相關(guān)性”必然帶來的是風(fēng)險的不確定性。在小數(shù)據(jù)時代,人們受限于技術(shù),只能選擇分析隨機樣本;但在大數(shù)據(jù)時代,收集與分析全樣本是現(xiàn)實可行的。大數(shù)據(jù)中的“大”非絕對意義的大,而是指全數(shù)據(jù);第二,算法的不可預(yù)見性也直接導(dǎo)致了風(fēng)險的不確定性。擁有強大算法能力的人工智能決策系統(tǒng)則不同,它能夠在短時間精確計算所有可能性的基礎(chǔ)上,選擇機器認為的最佳方案。而人工智能決策系統(tǒng)并不受預(yù)置的價值觀念、經(jīng)驗法則、道德法制等因素的制約,它們很有可能做出人類根本不可能考慮的實施方案。這就是算法帶來的不可預(yù)見性。由此,盡管人類制造了人工智能,但我們卻無法預(yù)見到人工智能最終的決策選擇。隨著深度學(xué)習(xí)技術(shù)的進步,人工智能行為的不可預(yù)見性問題更加凸顯,而且程度不斷加深。一個具有自主學(xué)習(xí)能力的人工智能系統(tǒng),實踐中大數(shù)據(jù)的喂養(yǎng)使其愈發(fā)進化,使得最細心的制造者都沒有辦法控制或預(yù)測指數(shù)級升級的人工智能的決策過程及決策結(jié)果,這就是一個黑箱。第三,架構(gòu)的封閉性更加劇了風(fēng)險的不確定性。網(wǎng)絡(luò)“性質(zhì)”并非由上帝的旨意來決定,而僅僅是由它的架構(gòu)設(shè)計來決定。(二)人工智能與人的關(guān)系“自然存在度在世界流變體系中呈現(xiàn)為逐層遞減的分布趨勢”,“愈進化的存在物其存在度愈低……它可以顯示某種相對活躍或較為主動的存在‘能力’,卻不得不借助于日益精巧的求存能力來為日益衰落的‘自在’自負其責(zé)。”第一,強自主性帶來了失控性問題。與人類早期科技不同,人工智能的本質(zhì)特征是以行為自動化為基礎(chǔ)的機器決策自主化。這種自主化有強弱之分。以自動駕駛為例,人類對于3級以上的具有自主性決策能力的人工智能系統(tǒng)的監(jiān)管將是非常困難的。第二,人工智能研發(fā)的隱秘性和分散性加劇了失控性。與核能、轉(zhuǎn)基因等傳統(tǒng)風(fēng)險源不同,人工智能的研發(fā)不需要建造大量的基礎(chǔ)設(shè)施,不需要雇傭大量的員工,甚至不需要購置生產(chǎn)設(shè)備,只需一臺電腦或一部智能手機即可。因此,大量初創(chuàng)科技公司或個人都從事于人工智能行業(yè),他們甚至可以在全球的每一個角落隨時隨地進行研發(fā)。這種物理上的隱秘性和分散性使得監(jiān)管機關(guān)很難確定是誰以及在何處制造潛在的威脅,社會風(fēng)險由此不斷集聚。(三)人工智能風(fēng)險在“制度”層面的重構(gòu)與財富一樣,前現(xiàn)代社會的風(fēng)險分配是附著在階級模式上,只不過是以顛倒的方式進行:財富在上層聚集,而風(fēng)險在下層聚集。由此,為了防范人工智能帶來的諸多風(fēng)險,在不阻礙創(chuàng)新的前提下重構(gòu)法律治理體系顯得尤為重要。從這個意義上說,我們理應(yīng)觀察科技風(fēng)險治理對國家和社會、政府和市場的關(guān)系演變以及法律體系歷史變遷的影響,這也是行政法學(xué)的重要任務(wù)。二、人工智能能否成為治理風(fēng)險的最佳手段“這是以往的哥白尼革命、達爾文革命及神經(jīng)科學(xué)革命中不存在的,人類在宇宙中的特殊地位受到威脅,人類已不再是信息圈毋容置疑的主宰,機器開始替代我們執(zhí)行越來越多的原本需要人的思想來解決的任務(wù)。”那么,人工智能的風(fēng)險到底能不能被治理?“某只看不見的手正在建造一種與網(wǎng)絡(luò)空間誕生時完全相反的架構(gòu),這只看不見的手,由政府和商務(wù)共同推動,正在構(gòu)筑一種能夠?qū)崿F(xiàn)最佳控制并使高效規(guī)制成為可能的架構(gòu)。”而“技術(shù)風(fēng)險爭論并不單單是一個個不相關(guān)聯(lián)的技術(shù)或倫理上的不同意見,它關(guān)系到政府機構(gòu)應(yīng)當(dāng)如何認定和理解技術(shù)風(fēng)險并采取相應(yīng)的措施”,(一)決策能力:決方案是促進科學(xué)決策或?qū)＜覜Q策該進路主張科學(xué)和專業(yè)知識是人工智能風(fēng)險決策的主要依據(jù)。“技術(shù)問題的解決方案就是推動和促進科學(xué)決策或?qū)＜覜Q策……據(jù)此,國家須要保證風(fēng)險決策盡可能地客觀,保證決策者是其專業(yè)領(lǐng)域的專家……科學(xué)需要被帶入政治過程、帶入規(guī)制過程、帶入法庭,這樣,技術(shù)風(fēng)險才能得到恰當(dāng)?shù)睦斫狻！?二)“科學(xué)的‘客觀”該進路主張民主和倫理等價值作為人工智能風(fēng)險決策的主要依據(jù)。“科學(xué)的‘客觀性’實際上是給意識形態(tài)披上偽裝斗篷,而且風(fēng)險決策關(guān)系到共同體民眾整體上意愿怎樣生活。因此,科學(xué)只是一個有限的決策工具……國家應(yīng)當(dāng)采取更為民主的應(yīng)對風(fēng)險的進路。”(三)人工智能風(fēng)險治理的目標(biāo)無論是科學(xué)進路,還是民主進路,法律在人工智能風(fēng)險治理中的作用都被描述成簡單工具性的、無關(guān)緊要的或者會起妨礙作用的。事實上,人工智能風(fēng)險治理的主要目標(biāo)如下:保護個人數(shù)據(jù)隱私、安全及相關(guān)權(quán)益;抵御可能的集體風(fēng)險,維護國家安全、公共安全及社會穩(wěn)定;在個人數(shù)據(jù)權(quán)益保護和社會自主創(chuàng)新之間實現(xiàn)平衡。為了實現(xiàn)上述目標(biāo),我們需要重構(gòu)一個風(fēng)險治理體系,而核心問題是政府和法律的作用。該體系的特征如下:(一)組織社會的自治。在現(xiàn)代社會,我國由于網(wǎng)絡(luò)的非開放性架構(gòu)導(dǎo)致了人工智能風(fēng)險治理結(jié)構(gòu)的封閉性,具體表現(xiàn)為“行政主體—行政相對人”的固定規(guī)制結(jié)構(gòu),這種封閉性治理結(jié)構(gòu)極大地增加公眾的存在性焦慮及風(fēng)險的社會可接受性。在抽象體系的交匯口,連接公眾與信任關(guān)系的當(dāng)面承諾,通常表現(xiàn)出明白無誤的可信任性與誠實性,并伴隨著一種“習(xí)以為常”或“鎮(zhèn)定自若”的態(tài)度。(二)政府與社會的問題面對著以復(fù)雜、不確定性和失控性為特征的人工智能風(fēng)險,我們需要一種整體性的風(fēng)險治理體系,即應(yīng)當(dāng)從中央與地方、政府與市場、立法與行政、國家與社會四個面向,以開放和多維度的方式來重構(gòu)治理結(jié)構(gòu),意在實現(xiàn)政府、市場、社會及公眾之間的一個新型社會,一個更開放的社會,一個權(quán)力分享的社會,一個網(wǎng)狀的社會。具體來說,對于人工智能的風(fēng)險治理,我們要實現(xiàn)從單維度到多維度的轉(zhuǎn)變,我們不僅需要政府的規(guī)制,也需要市場的自發(fā)秩序;我們不僅需要全國人大的立法規(guī)制,也需要國務(wù)院的行政規(guī)制;我們不僅需要中央政府高屋建瓴式的領(lǐng)導(dǎo)性規(guī)制,也需要地方政府對癥下藥式的自主性規(guī)制;我們不僅需要國家的外在強制性規(guī)制,也需要包括平臺公司在內(nèi)的社會自我規(guī)制。(三)從向權(quán)的角度限定行政法學(xué)模型傳統(tǒng)的風(fēng)險治理結(jié)構(gòu)的特征往往是政府向市場、行政向立法、中央向地方、國家向社會的單向權(quán)力運動或放權(quán),但對于人工智能的治理,我們需要一種雙向的權(quán)力(利)運動模式,即承認上述單向運動的合理性和有效性的同時,還需要一種反向的權(quán)力(利)運動形式,即市場向政府、立法向行政、地方向中央、社會向國家的鱘魚回歸式的權(quán)力(權(quán)利)運行,這一點從某種意義上更為重要。由此,現(xiàn)有的以追求秩序行政為目標(biāo),以法律保留原則、法律安定性原則和法律明確性原則為基石的封閉式行政法學(xué)理論顯然不足以抑制人工智能帶來的風(fēng)險。我們無法再以絕對性、確定性、統(tǒng)一性、可計算性為前提的法學(xué)理論來構(gòu)建前人工智能時代的法律秩序,我們需要一種以“開放與分享”為基本特征的整體性四維雙向風(fēng)險治理體系。三、治理的模式分類根據(jù)政府參與的深度和廣度,對于人工智能風(fēng)險的治理大致可以分為私法模式和公法模式,私法模式以市場為基石,公法模式則以政府為基石。而政府與市場的關(guān)系則是四重雙向風(fēng)險治理體系的第一維度。(一)人工智能賦能政府建設(shè)正向運動的產(chǎn)生原因是什么呢?由于包括技術(shù)和效率等國家能力的欠缺,以及基于經(jīng)濟便利和政治因素的考量,政府在很多情況下會考慮通過企業(yè)力量和市場機制來實現(xiàn)人工智能行業(yè)的發(fā)展以及對其風(fēng)險的防范。但“未來社會的生產(chǎn)部門主要由少數(shù)的從業(yè)者、機器人以及人工智能共同完成,而憤怒的失業(yè)者則構(gòu)成了社會中的不安定因素”。在政府放任的“野蠻生長”階段,“非法興起”使得市場和平臺公司等商業(yè)力量迅速成為人工智能發(fā)展的主要推動機制。以此為契機,我國在自動駕駛、語音及人臉識別、智能投顧、機器人等人工智能領(lǐng)域都取得了長足進步;以深度學(xué)習(xí)為代表的機器技術(shù)開始進入政府的智慧城市建設(shè);206工程強勢進入上海法院,人工智能開始成為司法機關(guān)重要的輔助決策系統(tǒng),甚至被認為是法院的未來圖景。以“政府?dāng)?shù)據(jù)開放”為例,政府與企業(yè)力量、市場機制實現(xiàn)深度融合的方式如下:第一,政府和企業(yè)的全方位戰(zhàn)略合作。如上海市政府與騰訊公司簽訂了戰(zhàn)略合作框架協(xié)議,共建智慧城市。雙方通過云計算和大數(shù)據(jù)能力,推動信息化服務(wù)產(chǎn)業(yè)鏈條的完形,以及在社會信用管理等領(lǐng)域進行大數(shù)據(jù)技術(shù)的探索。(二)人工智能時代的隱私保護作為人工智能風(fēng)險治理維度之一的政府和市場關(guān)系,往往會經(jīng)歷雙向運動。“現(xiàn)代社會的原動力是由一雙重傾向支配著:一方面是市場不斷的擴張,另一方面是這個傾向遭到一個相反的傾向———把市場之?dāng)U張局限在一個特定的方向———的對抗。這一對抗自律性市場危害性的社會保護傾向非常重要。”那么,這種反向運動的產(chǎn)生原因是什么呢?自生自發(fā)的市場秩序從來都是烏托邦,人工智能帶來的巨大風(fēng)險自然也不能由市場機制本身所能化解,而市場機制自身所帶來的外部性卻日益顯現(xiàn),具體表現(xiàn)在:第一,隱私權(quán)。身處后隱私時代的我們,人人都變成了“透明人”,并深陷于一個巨大的“黑箱社會”之中。“社會個體不知道自己有多少信息被記錄了,這些信息會傳播到什么地方,也不知道哪些人會使用它,使用這些信息的目的何在,更無從知道這些信息的泄露會產(chǎn)生怎樣的后果,依據(jù)這些信息所作的判斷是否準(zhǔn)確,是否存在偏見或破壞性?”就人類而言,時間是最好的療傷劑,遺忘是常態(tài),記憶才是例外。但隨著人工智能時代的到來,這種平衡被打破了。往事像炫目的刺青一樣永遠刻在我們的數(shù)字皮膚上,洗也洗不掉!隨著海量數(shù)據(jù)存在越來越廉價的云存儲器上,平臺企業(yè)對數(shù)據(jù)的獲取成本遠遠比選擇性刪除某些需要被遺忘數(shù)據(jù)的時間成本要低得多。于是,“在信息權(quán)力與時間的交會處,永遠的記憶創(chuàng)造了空間和實踐圓形監(jiān)獄的幽靈。完整的數(shù)字化記憶摧毀了歷史,損害了我們的判斷和我們及時行動的能力”。隱私的傳統(tǒng)保護模式主要是一種私法機制,采取的是目前仍舊在世界廣泛流行的嚴(yán)格的“告知-許可-例外”權(quán)利模式。雖然隱私保護的對象大致經(jīng)歷了從住宅到人、到信息再到數(shù)據(jù)的轉(zhuǎn)變,但不變的是在這個過程中市場始終起到了基礎(chǔ)性的配置作用。但在人工智能時代,這種私法保護模式將面臨著越來越多的局限性:其一,不管是告知與許可、模糊化還是匿名化,這三大傳統(tǒng)的隱私保護策略都將失效。第二,倫理問題。不管我們是否承認,“一切被記錄,一切被監(jiān)管”的人工智能時代已經(jīng)來臨,數(shù)據(jù)開放帶來的倫理問題若隱若現(xiàn),具體表現(xiàn)在:1.大數(shù)據(jù)和高級算法可能會使所有人喪失了未來的自由選擇權(quán)。當(dāng)醫(yī)療數(shù)據(jù)集比醫(yī)生更了解病人身體狀況、醫(yī)療病例和醫(yī)療方法時,絕大多數(shù)病人的選擇很可能是拋棄醫(yī)生,而選擇相信精確算法基礎(chǔ)上的人工智能;當(dāng)基于高級算法的數(shù)據(jù)集能夠準(zhǔn)確預(yù)測員工未來幾年的能力值、忠誠度、經(jīng)濟貢獻值以及生育計劃的話,公司會選擇據(jù)此提前解雇某些可能成為負資產(chǎn)的員工;當(dāng)基于高級算法的健康數(shù)據(jù)集能夠預(yù)測某人未來的健康狀況時,那么沒有保險公司愿意接受他的人壽保險申請;更為恐怖的是,當(dāng)基于算法的信用數(shù)據(jù)集可以預(yù)測某人未來犯罪的可能性時,公安部門可能會以“預(yù)防犯罪”為名提前干預(yù)他的自由權(quán)利。大數(shù)據(jù)的高速流動和再利用也許可以“打造一個更安全、更高效的社會,但是卻否定了我們之所以為人的重要組成部分———自由選擇的能力和行為責(zé)任自負。大數(shù)據(jù)成為了集體選擇的工具,但也放棄了我們的自由意志”。2.大數(shù)據(jù)和高級算法可能會帶來數(shù)據(jù)歧視問題。數(shù)據(jù)表面上看是中立的,似乎并不涉及價值判斷,但在數(shù)據(jù)商業(yè)化過程中,一旦冷冰冰的政府?dāng)?shù)據(jù)加上高深理性的算法,數(shù)據(jù)歧視的產(chǎn)生可能就不可避免了。當(dāng)健康大數(shù)據(jù)可以基本準(zhǔn)確預(yù)測某位孕婦可能懷的是女孩,該孕婦可能會據(jù)此選擇墮胎,這是典型的性別歧視;當(dāng)司法大數(shù)據(jù)推測黑人的犯罪率較高或阿拉伯人成為恐怖分子的可能性較高,那么監(jiān)管部門可能會對他們重點監(jiān)管,甚至提前預(yù)防犯罪,而有些公司也可能會據(jù)此拒絕雇傭他們,這就是典型的種族歧視和職業(yè)歧視;當(dāng)電商平臺根據(jù)消費大數(shù)據(jù),用高級算法作一個精確的推薦系統(tǒng),如收入較低的顧客瀏覽此平臺時,非常多的打折信息會不斷跳出來騷擾,又如平臺給“經(jīng)常打好評”和“很少退貨者”寄送假貨,而某旅游網(wǎng)站的“同房不同價”,這是典型的消費歧視。這就是人工智能時代“開放的大數(shù)據(jù)”加上“復(fù)雜卻差異化的算法”帶來的歧視,這是商業(yè)領(lǐng)域隱匿的“窮人與狗不得入內(nèi)”。以上市場外部性亟待政府的反向運動通過保護性干預(yù)來解決。具體包括:1.建議政府通過立法方式重塑“公正”“合法推定原則”及“無罪推定原則”等概念。在充斥著“過去決定未來”及“數(shù)據(jù)預(yù)測未來”的人工智能社會,政府需要重新定義公正的概念,“個人動因的保護”應(yīng)成為公正的新內(nèi)容。人們應(yīng)該只為他們的行為負責(zé),而不能為未來的趨勢或傾向負責(zé),應(yīng)當(dāng)堅決杜絕政府或企業(yè)依據(jù)大數(shù)據(jù)預(yù)測的行為而非真實的行為對人們進行評級或獎懲。只有這樣,自然人在法律上才是作為真正的“人”來對待,他們有行為選擇自由和通過自主行為被評判的人。這是人工智能時代的“合法推定原則”及“無罪推定原則”的新含義。2.建議政府通過立法的方式積極推動企業(yè)算法的公開、公平和公正等特別保護措施。對于政府行為的合法性和合理性,法律設(shè)置了非常詳盡的實體法和程序法的規(guī)定。但對于同樣涉及我們每個人的權(quán)利和自由(甚至我們的未來)等重要利益的企業(yè)決策和評價,法律卻沒有任何限制性規(guī)定,這在法理上是說不通的。因為商業(yè)算法會直接影響到我們每個人的利益,所以企業(yè)不僅要遵循公開原則,向全社會無條件公布算法的具體內(nèi)容;企業(yè)還要遵循正當(dāng)程序原則,不能既作算法的評分裁判者又作算法的事實參與者;企業(yè)還要遵循可辯駁原則,企業(yè)在對用戶作出不利的評價之前,必須給用戶辯駁和說明理由的機會。總之,市場向政府的反向運動在法律上主要體現(xiàn)為公法模式。這種風(fēng)險治理模式是通過政府有意識的保護性立法和政府干預(yù)手段而實現(xiàn)。它強調(diào)的是政府的強力介入,通過詳盡規(guī)則的出臺,政府的人為設(shè)計甚至是政府的制度性導(dǎo)向來實現(xiàn)人工智能風(fēng)險的治理。這種模式中起主要作用的公法機制,往往是顯性的。以歐盟為例,對于人工智能涉及的個人隱私等權(quán)利保護,成員國并非依賴私法權(quán)利體系及個人司法救濟來實現(xiàn),而主要通過公法機制來實現(xiàn)。“從《數(shù)據(jù)保護指令》到《統(tǒng)一數(shù)據(jù)保護條例》,歐盟一直致力于建立‘行業(yè)行為準(zhǔn)則+法律強制性規(guī)范’的雙重規(guī)范體系和‘?dāng)?shù)據(jù)控制者自律+政府?dāng)?shù)據(jù)監(jiān)管機構(gòu)的監(jiān)督管理’的雙重管理體系,尤其是新的條例要求歐盟各成員國均要建立獨立的數(shù)據(jù)監(jiān)管機構(gòu),建立數(shù)據(jù)主體向監(jiān)管機構(gòu)投訴、受理及處理的一整套完備的行政救濟制度框架。”四、國家:培育人工智能風(fēng)險預(yù)防能力人工智能的風(fēng)險治理應(yīng)當(dāng)以公民基本權(quán)利的保護為根本出發(fā)點,基于人工智能風(fēng)險預(yù)防特征,考察不同國家權(quán)力在手段與功能上的配置,實現(xiàn)治理責(zé)任的轉(zhuǎn)移和優(yōu)化。(一)人工智能風(fēng)險標(biāo)準(zhǔn)制定中行政權(quán)的復(fù)雜性在人工智能風(fēng)險治理的職能分工中,行政機關(guān)因其權(quán)力的獨特性承擔(dān)了越來越多的責(zé)任。由此,立法向行政放權(quán)的正向運動開始啟動,具體有三種方式:通過《立法法》及其他法律的明文授權(quán),授予行政機關(guān)廣泛的行政立法權(quán);通過法律文本中的不確定概念賦予行政機關(guān)更多的自由裁量權(quán);通過設(shè)置“風(fēng)險預(yù)防原則”賦予行政機關(guān)更多的事實上的風(fēng)險決策權(quán)。而這個正向運動主要是由行政的以下特性決定:第一,主動性及調(diào)動資源的能力。“行政的作用在于形成社會生活、實現(xiàn)國家目的,特別是在福利國家或社會國家中,國家的任務(wù)更為龐雜而繁重,行政往往必須積極介入社會、經(jīng)濟、文化、教育、交通等各種關(guān)系人民生活的領(lǐng)域,成為一只處處看得見的手,如此方能滿足人民和社會的需要。”人工智能風(fēng)險標(biāo)準(zhǔn)的制定、評估及反饋需要查閱和收集大量相關(guān)的風(fēng)險信息。這類相關(guān)信息往往涉及人工智能風(fēng)險的法律性質(zhì)、影響的范圍以及政府治理的法律后果,甚至可能直接關(guān)系到人工智能項目的生與死。第二,專業(yè)性。在時間和空間分離的巨大跨距之中,脫域機制通過將社會關(guān)系從它們所處的特色的地域“情境”中提取出來,使得這種時空延伸成為可能。第三,靈活性。與立法機關(guān)、司法機關(guān)相比,行政機關(guān)在機構(gòu)組織形式、行政負責(zé)人的挑選與任期、行使職權(quán)的方式等各方面具有更大的自由裁量空間和更多靈活性。事實上,行政機關(guān)依據(jù)《立法法》擁有了廣泛的立法性權(quán)力,依據(jù)《行政復(fù)議法》擁有了處理法律糾紛的司法性權(quán)力,而且還能發(fā)揮其實施法律的傳統(tǒng)國家作用。這種“三位一體”的行政權(quán)所體現(xiàn)的靈活性對人工智能的風(fēng)險治理意義重大。風(fēng)險標(biāo)準(zhǔn)制定中的核心問題是風(fēng)險的可接受性,這不僅需要考慮特定的科學(xué)評估及客觀事實,而且也要關(guān)注不同社會階層的社會利益和政治關(guān)懷。事實上,立法機關(guān)雖然是最民主的,但其不具備處置具體風(fēng)險的專家系統(tǒng)、機構(gòu)能力和時間;同樣法院也不具備專家系統(tǒng),不具備可用來收集風(fēng)險信息和商談的手段,更缺乏主動對特定風(fēng)險的持續(xù)監(jiān)管與及時反應(yīng)的能力。(二)人工智能風(fēng)險治理中行政自由裁量權(quán)的法理構(gòu)造由于行政缺乏民主正當(dāng)性,“行政立法”“行政司法”及廣泛的“行政自由裁量權(quán)”存在合憲性上的先天性缺陷,行政這個過度膨脹的當(dāng)代憲制國家“尷尬傳家寶”面臨著“鳩占鵲巢”的嫌疑,這樣一種強大的利維坦式國家作用令人感到不安且充滿了法律爭議。于是,一場保護性的反向運動應(yīng)運而生,核心問題是如何控制人工智能風(fēng)險治理中的行政自由裁量權(quán),而這正是法律的主要功能。這種法律的作用本質(zhì)上是一種行政憲制主義的形式,重點是如何把治理人工智能風(fēng)險的問題融入公共行政的合法性、合理性及有效性的法律爭論之中。第一,理性—工具范式。該范式下行政的人工智能風(fēng)險評估及決策行為,可看作是對立法授權(quán)所完成的“傳送帶”動作,包括確認特定的技術(shù)風(fēng)險,評估可能采取的規(guī)制手段的法律后果及用“利益代表制”確認社會的價值偏好。第二,商談—建構(gòu)范式。該范式主張授予行政機關(guān)行使實質(zhì)性、強自由的裁量權(quán),立法并非是一套精確的命令,而只是為行政裁量權(quán)設(shè)定一般性原則和考慮的相關(guān)因素。行政不再只是立法的代理人,而是實施其自由意志的機構(gòu)。事實上,從“行政憲制主義”重新描述人工智能的風(fēng)險治理,也許并不能直接產(chǎn)生具體的技術(shù)解決方案,但卻打開了一扇理論建構(gòu)之窗,這有利于我們重新定位法律和政府在人工智能風(fēng)險決策中的重要作用,并促使行政法學(xué)者開始試圖重構(gòu)人工智能風(fēng)險的整體法律治理系統(tǒng)。五、三維風(fēng)險管理體系的第三個維度：中央和地方上文提到了市場與政府、立法與行政之間的雙向運動,而縱向的央地關(guān)系也是難以回避的維度。(一)重構(gòu)人工智能風(fēng)險的治理體系地方政府一方面基于“GDP錦標(biāo)賽”的需求,積極推動本地經(jīng)濟試驗與人工智能產(chǎn)業(yè)發(fā)展深度融合,人工智能產(chǎn)業(yè)的實踐推手主要是地方政府而非中央政府;另一方面,對于隨之而來的人工智能風(fēng)險,地方政府也是身先士卒地積極探索法律治理模式,并不斷積累經(jīng)驗。我國是一個民主集中制原則下的單一制國家,其特征是中央的領(lǐng)導(dǎo)權(quán)和地方的自主權(quán)有機結(jié)合。而在人工智能的產(chǎn)業(yè)發(fā)展和風(fēng)險治理實踐中,我國出現(xiàn)了一個明顯的中央向地方不斷授權(quán)以及地方自主權(quán)不斷擴大的正向運動,這種正向運動的產(chǎn)生原因如下:第一,單一制與有效治理的融合。按照憲法的規(guī)定,我國是單一制國家,體現(xiàn)為中央在財政、人事、自然資源等方面對地方的最高領(lǐng)導(dǎo)權(quán),而有效治理能力的增強是以地方自主權(quán)的擴大為基礎(chǔ),法律上表現(xiàn)為中央向地方的自上而下的放權(quán)和授權(quán)。周雪光把這種中國國家治理邏輯歸納為“一統(tǒng)體制和有效治理的關(guān)系”。第二,新時代的特色法治經(jīng)驗。重構(gòu)人工智能風(fēng)險的治理體系大致需要以下幾步:第一步,由地方政府就風(fēng)險治理先行先試,積累有效治理的初步經(jīng)驗;第二步,由地方人大基于已有的“地方性經(jīng)驗”制定“地方性立法”,然后進一步試錯并積累經(jīng)驗;第三步,由國務(wù)院在充分總結(jié)地方經(jīng)驗教訓(xùn)的基礎(chǔ)上制定行政法規(guī);第四步,如有必要,再考慮上升為法律,適用于全國。這種新時代的特色法治經(jīng)驗的形成主要有兩個依據(jù):其一,我國經(jīng)濟文化情境差異巨大。我國疆域廣闊,人口眾多,多民族多文化,經(jīng)濟發(fā)展極度不平衡,東部、西部以及南方、北方的地理氣候資源變化多端,這決定了我國需要“差異化”的地方性立法及行政;其二,“民主集中制”原則由此看來,對于人工智能的風(fēng)險治理,地方行使自主權(quán)是法律的常態(tài),而中央行使領(lǐng)導(dǎo)權(quán)則是法律的例外。只有當(dāng)?shù)胤降男袨榭赡芨淖冎醒牒偷胤降恼纹胶鈺r,中央領(lǐng)導(dǎo)權(quán)的介入才有必要。第一,出臺人工智能的地方規(guī)劃及行動方案。據(jù)不完全統(tǒng)計,截至2018年3月,全國31省、自治區(qū)、直轄市中,包括北京、第二,制定實驗性政策及地方立法。地方政府應(yīng)當(dāng)加強人工智能相關(guān)法規(guī)、倫理和社會問題研究,推動建立保障人工智能發(fā)展的法規(guī)和倫理道德框架。根據(jù)新時代的特色法治經(jīng)驗,在人工智能產(chǎn)業(yè)發(fā)達的城市,如深圳或杭州就風(fēng)險治理進行試點,積累有效治理的初步經(jīng)驗;由地方人大基于已有“地方性經(jīng)驗”制定“地方性立法”,然后進一步試錯,為國務(wù)院制定行政法規(guī)和未來的全國人大立法提供實踐基礎(chǔ)和理論支撐。第三,試驗性設(shè)立獨立的人工智能風(fēng)險及安全監(jiān)管機構(gòu)。地方立法既要保證該監(jiān)管機構(gòu)組成機構(gòu)及成員的獨立性,也要確保監(jiān)管機構(gòu)行使職權(quán)時程序上的透明度。安全監(jiān)管委員會的主要成員可以從所在地公安局及市場監(jiān)管局選任,該機構(gòu)應(yīng)當(dāng)具有如下主要職責(zé):人工智能風(fēng)險的評估及風(fēng)險標(biāo)準(zhǔn)的制定、風(fēng)險決策過程正式和非正式的公眾參與制度的出臺、對人工智能平臺企業(yè)行使行政調(diào)查權(quán)及限期整改等矯正性權(quán)力、向上級機關(guān)或立法機關(guān)提出建議的權(quán)力以及定期發(fā)布人工智能風(fēng)險預(yù)警和治理的年度報告等。由此,地方政府主導(dǎo)的人工智能風(fēng)險治理試驗從宣示開明的政治姿態(tài)演變?yōu)閯討B(tài)的經(jīng)濟實踐,其內(nèi)在的政治與法律意涵開始不斷豐富。(二)完善人工智能數(shù)據(jù)標(biāo)準(zhǔn)化的事先行政許可制度人工智能的風(fēng)險治理應(yīng)當(dāng)是一種制度化體系,這種頂層制度設(shè)計只能由中央政府來構(gòu)建和提供,其目的在于保護自然人的數(shù)據(jù)權(quán)益,維護國家安全、公共安全和社會穩(wěn)定,但卻不能因噎廢食,阻礙數(shù)據(jù)合法的自由流通并完全禁止人工智能的研發(fā)。我們建議,全國人大在充分吸收地方的經(jīng)驗和教訓(xùn)的基礎(chǔ)上制定《人工智能發(fā)展法》,具體制度如下:第一,設(shè)立人工智能系統(tǒng)的登記認證審查制度。立法的重點是圍繞如何在不阻礙創(chuàng)新的前提下最大限度控制和防范人工智能的潛在風(fēng)險,因此,除了自動駕駛系統(tǒng)這類可能對自然人的人身財產(chǎn)權(quán)造成巨大威脅以及智能武器這類可能威脅國家安全、公共安全的人工智能系統(tǒng)之外,立法并不能也沒有必要對所有的人工智能系統(tǒng)設(shè)立嚴(yán)格的事前行政許可制度。筆者建議,設(shè)立適用于所有人工智能系統(tǒng)的登記認證審查制度,即所有的人工智能系統(tǒng)都應(yīng)當(dāng)按照法律的要求去監(jiān)管部門登記備案,但絕大多數(shù)并不需要事先取得監(jiān)管機構(gòu)的批準(zhǔn)性許可文書。同時,實現(xiàn)認證程序與侵權(quán)責(zé)任體系深度結(jié)合。企業(yè)可以自愿申請監(jiān)管部門或授權(quán)的專業(yè)機構(gòu)的認證程序,經(jīng)過權(quán)威認證的人工智能系統(tǒng)的設(shè)計者、生產(chǎn)者或銷售者僅需承擔(dān)有限侵權(quán)責(zé)任,而沒有經(jīng)過認證的人工智能系統(tǒng)將會承擔(dān)嚴(yán)格的連帶責(zé)任。筆者還建議,設(shè)立抽查式事后的安全審查制度,監(jiān)管機構(gòu)審查的關(guān)鍵詞是“安全”,即查看人工智能系統(tǒng)“是否落實網(wǎng)絡(luò)安全等級保護制度,按照國家標(biāo)準(zhǔn)規(guī)范要求,采取管理和技術(shù)措施,保護網(wǎng)絡(luò)、信息系統(tǒng)、數(shù)據(jù)資源安全”,立法應(yīng)當(dāng)授予監(jiān)管部門“安全一票否決”的權(quán)力,即涉及“安全”問題,監(jiān)管部門有權(quán)強制啟動嚴(yán)格的事先行政許可制度,即人工智能系統(tǒng)獲得行政許可需要經(jīng)過多重多階段的嚴(yán)格安全測試,在沒有獲得許可前不能上市銷售。第二,設(shè)立人工智能專員制度。當(dāng)實施政府?dāng)?shù)據(jù)開放和利用的機構(gòu)是政府部門時,或者當(dāng)其核心業(yè)務(wù)是用算法處理大量數(shù)據(jù)且需要進行定期的、系統(tǒng)化的大規(guī)模監(jiān)控時,或者當(dāng)其核心業(yè)務(wù)是用算法去處理就業(yè)、社會保險與社會保障法等領(lǐng)域以及與犯罪和違法行為有關(guān)的大規(guī)模特殊數(shù)據(jù)時,立法應(yīng)當(dāng)明確要求數(shù)據(jù)控制者和處理者指定一名人工智能專員。第三,建設(shè)國家統(tǒng)一的大數(shù)據(jù)平臺。國家統(tǒng)一大數(shù)據(jù)平臺需要有足夠的立法支撐和可操作的實施方案,同時應(yīng)當(dāng)通過立法設(shè)立首席信息官、首席技術(shù)官及首席數(shù)據(jù)官等專業(yè)機構(gòu)。這樣的國家大數(shù)據(jù)平臺只能由中央政府來建構(gòu),并且需要一個較長時間的經(jīng)驗積累和試錯。從地方分散實踐到中央統(tǒng)一立法的反向運動是可取的,我國地方數(shù)據(jù)平臺從數(shù)據(jù)量、時效性、數(shù)據(jù)集可視化、互動分享等方面與美國存在巨大的差距,其中一個重要原因是各自為政下形成的“低法治”數(shù)據(jù)割據(jù)。由此,一個旨在全面提升數(shù)據(jù)的有用性和易用性以及公眾數(shù)據(jù)利用效果的全國性數(shù)據(jù)開放平臺的建設(shè)必須提上全國人大的議事日程,應(yīng)當(dāng)將中國最為重要的政府?dāng)?shù)據(jù)統(tǒng)一集中到一個網(wǎng)站,為全國所有公眾無差別地提供一站式的、內(nèi)容豐富的、便于再利用的數(shù)據(jù)群,而這個工作只能由《人工智能發(fā)展法》來完成。六、科技風(fēng)險的威脅對于人工智能風(fēng)險的破壞力和臨界點,人們也許還有不同的見解,但這種科技風(fēng)險的威脅毫無疑問是巨大的和不確定的。而國家和社會的雙向運動是我們重構(gòu)風(fēng)險治理體系必須要考慮的一個維度。(一)國家從國家權(quán)力之間關(guān)系向國家與民眾關(guān)系的轉(zhuǎn)型當(dāng)前中國正處于一個尋求新的合法性基礎(chǔ)的過程中,逐步走向建立法治國家,而國家治理的主線也正從國家權(quán)力之間關(guān)系向國家與民眾之間關(guān)系進行轉(zhuǎn)型。在這種背景下,人工智能的風(fēng)險治理也正在經(jīng)歷著國家向社會放權(quán)和擴權(quán)的正向運動,具體表現(xiàn)為行政機關(guān)與平臺企業(yè)的合作治理。根據(jù)弗里曼的研究,人工智能風(fēng)險合作治理的規(guī)范模型應(yīng)當(dāng)具有如下特征:(二)對社會的反思由于人工智能平臺企業(yè)的自我治理領(lǐng)域往往沒有清晰的法律邊界,而基于大數(shù)據(jù)的算法產(chǎn)品卻容易波及社會中的每一個人,這種巨大影響力必將最終損害到國家能力;受到人工智能平臺企業(yè)自我治理影響的利害關(guān)系人范圍之廣、數(shù)量之大,是傳統(tǒng)社會所難以見到的,因而很難設(shè)計一種讓所有利害關(guān)系人參與到人工智能風(fēng)險評估和風(fēng)險決策中來的法律機制。在“大眾創(chuàng)業(yè)、萬眾創(chuàng)新”時代,政府機關(guān)有意無意地疏忽于“野蠻生長”階段的監(jiān)管職責(zé),使得人工智能平臺在短時間實現(xiàn)“非法興起”,其后果是威脅公共安全和社會穩(wěn)定的法律風(fēng)險短時間內(nèi)集中爆發(fā)。在此背景下,國家必須改變“強社會、弱國家”狀況,啟動一場從社會向國家集權(quán)的“反向運動