全球人工智能科學小組、加強全球人工智能治理政策智能標準交流中心、在聯合國秘書處內設置人工智能辦公人工智能技術具有巨大的“向善”的潛力，從開辟新的科學探索領域、優化能源網絡，到改善公共衛生和農業發展，乃至實現聯合國可持續發展目標等方面都可以發揮重要作用。然而，如果未能實現有效治理，人工智能帶來的機遇就難以實現或者無法得到公平的分配。與此同時，快速、不透明和自主的人工智能系統為人類帶來了嚴峻挑戰。未來，在全球范圍內開展人工智能治理合作是應對風險挑戰的關鍵。一、人工智能全球治理合作的現狀（一）人工智能全球治理合作的主要原則從長遠來看，人工智能治理必須為人類和社會帶來切實的好處和保障。因此，聯合國提出了以下原則：1.人工智能應由各方以包容方式共同治理并造福所有人盡管人工智能具有極大潛力，但是仍然不具有普惠意義，許多人都無法接觸使用人工智能。充分利用人工智能的潛力，并使其發展、部署和使用過程中的廣泛參與成為可能，是推動全球挑戰可持續解決方案的關鍵。無論國家大小，所有國家都必須能夠參與人工智能治理。無論南方或北方的公民，都應該能夠通過人工智能創造自己的機會、利用這些機會并實現繁榮。因此，我們需要采取積極和矯正性措施，以解決個別少數群體在技術發展、部署、使用和治理過程中長期以來的歷史性和結構性排斥問題，并將數字鴻溝轉變為包容性的數字機會。2.人工智能治理必須以公共利益為導向人工智能系統的開發主要集中在科技公司手中。人工智能的優化、部署和使用涉及開發者、部署者和用戶多種群體。從社交媒體的經驗來看，人工智能產品和服務能夠迅速跨越邊界和用戶類別進行擴展。因此，除了更廣泛的機會與風險考量外，人工智能必須以公共利益為核心進行治理。僅僅要求“不造成傷害”是一項必要但不足的要求。我們需要更廣泛的框架對在人工智能生命周期中建造、部署和控制人工智能的主體追責。這不能僅依賴于自我監管，還需要成員國一致執行的具有約束力的規范，以確保公共利益優先于私人利益。此外，人工智能多樣化使用的具體場景中有其復雜性和風險。治理工作必須關注與多樣性、公平性、包容性、可持續性、社會與個人福祉、競爭性市場以及健康創新生態系統相關的公共政策目標。在此背景下，治理需要擴大多元利益相關方的代表性，同時在公共和私營部門角色之間劃分職責時提供更清晰的界定。以公共利益為核心的治理還意味著對公共技術、基礎設施和公共官員能力建設進行投資。3.人工智能治理應與數據治理和促進數據共享空間協同進行數據是人工智能系統的關鍵，其治理和管理必須與人工智能治理的其他組成部分相結合。學術界強調，數據治理應作為短期優先事項處理。私營部門實體指出，數據治理措施應補充人工智能治理，強調全面的隱私法和負責任的人工智能使用。國際組織和民間社會組織強調，人工智能訓練數據的治理應保護消費者權益，并通過對人工智能訓練數據的非排他性訪問來支持人工智能開發者之間的公平競爭，強調了對具體和可付諸行動的數據治理措施的呼吁。聯合國被確定為應對這些治理挑戰和縮小資源差距的一個關鍵場所。我們需要建立隱私和安全保護框架的法律與技術安排，在符合適用法律的前提下，促進數據使用。同時，還應鼓勵發展公共數據共享，尤其是針對解決社會挑戰至關重要的公共數據，使多方利益相關者可以使用。4.人工智能治理必須具有普遍性并與多利益相關方共同協作任何人工智能治理工作都應優先爭取不同成員國和利益相關者的普遍支持。尤其需特別關注包容性參與，降低全球南方被排除社區的進入門檻。同時，除了要求現有機構根據人工智能的影響審查其當前職能，還需要新的橫向協調和監督職能，并應由新的組織結構來承擔。新舊機構可以形成一個共同的治理網絡。此外，治理框架還需理解推動人工智能開發、部署和使用的不同文化意識形態，建立創新結構以吸納私營部門、學術界和民間社會與政府共同參與。可以借鑒以往追求公共利益的合作努力，例如國際勞工組織的三方結構以及聯合國全球契約。5.人工智能治理應立足于《聯合國憲章》、國際人權法和可持續發展目標等其他商定的國際承諾聯合國在規范性和制度性方面具有獨特的作用。我們需要將人工智能治理與聯合國的核心價值觀與《聯合國憲章》及其對和平與安全、人權以及可持續發展的承諾對應，作為其治理基礎和指南針。聯合國能夠從經濟、社會、健康、安全和文化等多方面考慮人工智能的全球影響，所有這些都以普遍尊重和執行人權與法治為基礎。聯合國多個機構已在人工智能對教育、武器控制等領域的影響上開展了重要工作。《全球數字契約》和《數字合作路線圖》就是推動技術全球治理框架的多方利益相關者協商的典例。聯合國成員國的有效參與、賦能聯合國機構并吸納多元化的利益相關者，對支持和增強全球人工智能治理響應至關重要。本原則在征求意見過程中獲得了政府、民間社會、技術界、學術界和私營部門等所有利益攸關方的最有力支持。2024年3月聯合國大會通過了關于抓住安全、可靠和值得信賴的人工智能系統為可持續發展帶來的機遇的第A/78/265號決議。我們深信，為了減輕人工智能的風險和危害，確保人工智能能夠真正造福全人類，必須將人權置于人工智能治理的中心。這一對人權的基本承諾貫穿各領域，適用于后文提出的所有建議。（二）人工智能全球治理合作的主要機制目前關于人工智能治理的文件不勝枚舉，制定主體多樣、國際舉措紛繁。從主體上看，各國政府、公司、財團、區域以及國際性組織均有涉獵。此外，在聯合國系統內也出現了一系列文件和舉措中。表2展示了可能適用于人工智能的26個特定領域與聯合國有關的文書，其中25項文書具有約束力，需要對其進行解釋。聯合國和相關組織的另外32份領域級文件專門關注人工智能，但都不具有約束力。從舉措上看，主要包括指南、框架、原則、宣言，還有行業標準。相關舉措涵蓋了從雙邊和小多邊合作到大型多邊合作的不同國際合作層面。例如，新加坡與美國、英國與美國的雙邊合作，以及歐盟、東盟、非盟等區域集團的多邊合作。同時，人工智能峰會、全球標準制定機構和行業標準組織也采取了系列舉措，顯示了政府、企業和國際組織在推動國際合作中的積極作用，如表（三）人工智能全球治理合作的主要進展如今，人工智能全球治理已經從原則討論邁向實際機制建設與具體合作項目的實施，為應對技術帶來的全球挑戰和機遇奠定了基礎。具體包括：明確治理框架與原則。《全球數字契約》與《數字合作路線圖》等倡議為全球范圍內的人工智能治理提供了宏觀指導，強調多利益相關方的參與，并倡導在人工智能開發和應用中遵循透明、公正、包容和可持續原則。建立多邊合作機制。聯合國鼓勵成員國、私營部門、學術界和民間社會共同參與治理框架的設計與實施。例如，聯合國機構鼓勵通過擴大全球南方國家的參與，縮小全球范圍內的數字鴻溝；聯合國教科文組織對人工智能在教育領域的應用進行研究；聯合國裁軍事務處探討人工智能在軍事領域的使用與控制。多國聯合基金提供支持。亞洲基礎設施投資銀行與新開發銀行合作，為“一帶一路”沿線國家的人工智能與數字基礎設施項目提供資金支持。二、人工智能全球治理合作面臨的三大挑戰多個國家、地區、多利益相關方和其他倡議取得了有意義的成果。然而，除了聯合國提出的幾項倡議之外，沒有一項倡議能真正具有全球影響力。人工智能治理的代表性不足使得其無法應對全球性的人工智能技術及其影響。人工智能倡議和機構間的協調性不足可能使世界人工智能治理變得互不關聯、互不兼容。實施性不足削弱了國家、私營部門、民間社會、學術界和技術界將承諾轉化為實際成果的能力。大多數倡議在政府間層面并不完全具有代表性，許多倡議無法涵蓋全球各地區的特點。如表4所示，在7項非聯合國的區域人工智能倡議中，僅有7個國家加入了所有倡議，而118個國家沒有加入任何倡議。這些國家主要為南半球的國家，但即使是人工智能領先的國家，其代表性也不均衡。在治理的早期階段存在一定程度的實驗、規范間的競爭以及對新技術的適應差異，具有選擇性是可以理解的。然而，隨著國際人工智能治理逐漸成熟，全球代表性才能確保制度的公平和有效。公平性要求更多的聲音在如何治理人工智能的決策中發揮有意義的作用。而有效性要求人工智能治理制度必須橫跨全球，避大部分國家都認為國際人工智能治理代表性不足的問題亟需解決，而則聯合國可以成為將世界團結起來的論壇。僅區際樣本，不包括區域樣本樣本：經合組織《人工智能原則》（2019年）、20國集團《人工智能原則》（2019年）、歐洲委員會人工智能公約起草小組（2022-2024年）、GPAI《部長級宣言》（2022年）、七國集團《部長聲明》（2023年）、《布萊切利宣言》（2023年）和《首爾部長級宣言》（僅區際樣本，不包括區域樣本118個國家*未加入任何抽樣的人工智能治理倡議/文書按區域分組劃分的未參與國家29個國家中有0個23個國家中有118個國家*未加入任何抽樣的人工智能治理倡議/文書按區域分組劃分的未參與國家29個國家中有0個23個國家中有1個33個國家中有25個僅憑大量的人工智能治理倡議并不能保證為人類有效合作，因為區域間的倡議無法保證有效銜接，已經出現了不兼容的風險。沒有一個全球性機制讓所有國際標準制定組織、國際科學研究倡議或人工智能能力建設倡議相互協調，這導致了各自為政。聯合國系統內也出現了一系列協調性不足。表2顯示了可能適用于人工智能的各個具體領域的聯合國相關文書，這些措施大多是針對特定領域建立的，而沒有一個實體能夠全面地開展這方面的工作，這就限制了現有聯合國獨自應對人工智能對全球多方面影響的能力。然而，僅有代表性和協調性是不夠的，還需要切實采取行動，確保善治承諾在實踐中轉化為具體成果。與私營部門合作十分重要。我們需要民間社會和科學專家的積極參與，讓政府和私營公司誠實地履行承諾和主張。在國家內部和國家之間，利用人工智能服務公共利益的推動因素不足，這導致了實施方面的關鍵問題。盡管許多國家已經制定了國家戰略，并且一些國際援助倡議也正在出現，但這些機構的網絡和資源仍然不足。因此，在全球層面將國家和區域的能力建設倡議聯系起來，匯集資源以支持那些未能參與這些努力的國家，有助于確保所有國家都能分享與人工智能相關的機遇。三、推動人工智能全球治理合作的路徑建議（一）建設國際人工智能科學小組建議成立一個獨立的國際人工智能科學小組，由該領域的多學科專家自愿以個人身份組成。1.主要工作一是發布年度報告。調查與人工智能相關的能力、機遇、風險和不確定性，識別在技術趨勢方面達成科學共識的領域，以及需要開展更多研究的領域。二是編制季度專題研究摘要。就人工智能幫助實現可持續發展目標的領域進行研究，重點關注可能服務不足的公共利益領域。三是發布特別報告。主要針對新出現的問題，特別是新的風險或治理方面的重大漏洞。該科學小組將涵蓋廣泛的重點，全面關注一系列優先事項，包括尋找人工智能相關機會的專業知識，以及促進對可持續發展目標應用領域的深入研究。然而，這樣的科學小組不一定開展自己的研究，而應成為網絡化行動的催化劑。它將減少信息不對稱，幫助避免投資方向錯誤，并保持全球專家網絡的信息暢通。2.建設意義通過聯合國獨特的全球網絡，可以在廣泛的基礎上達成共同理解，以適合各種社會經濟和地理環境的方式提供研究成果。利用聯合國的號召力和包容各利益相關者的影響力，國際科學小組能夠提供值得信賴的科學合作過程和成果，并糾正信息不對稱，以解決代表性和協調性不足的問題，從而促進公平有效的國際人工智能治理。3.如何建設這種機構有先例可循。例如，聯合國原子輻射效應科學委員會、生物多樣性和生態系統服務政府間科學政策平臺（IPBES）、南極研究科學委員會和政府間氣候變化專門委員會（IPCC）都以系統的方法解決影響不同部門和全球人口的復雜問題。然而，人工智能科學小組不應直接照搬這些先例，而應量身定制一種適合人工智能技術的方法，以整理和促進前沿研究，為那些尋求公正、可信的科學觀點的人提供信息。4.運作機制小組的初始任期可為3-5年（經秘書長審查后可延長并可在以下基礎上運作：一是成員結構應重視跨學科性，并確保地區和性別的多樣性和代表性。最初可以有30-50名成員，通過會員國和自我提名相結合的方式任命。成員可在3-5年的總體任期內定期輪換。二是應舉行線上或線下會議。會議可在聯合國相關實體所在城市輪流舉行。三是應保持獨立性，特別是在調查結果和結論方面。四是應與其他國際機構和相關區域組織合作，并在其基礎上開展研究工作。五是應設立指導委員會，以制定研究議程，確保觀點的包容性并納入倫理考慮因素，監督資源的分配，促進與學術機構和其他利益相關者網絡的合作，并審查小組的活動和成果。5.主要受眾科學小組將有三大主要受眾：一是全球科學界。科學小組可以鼓勵他們開展更多關注公益的研究。二是會員國和決策者。定期獨立評估將為會員國、決策者和本報告建議的其他進程提供信息。三是公眾。通過公開報告，科學小組可以成為公眾高質量信息的官方來源。（二）在聯合國框架下發起更多政策對話1.必要性當前，全球人工智能治理的現狀呈現出明顯的碎片化和不完整性，這一點從118個國家未能參與最近七個主要的非聯合國人工智能治理舉措中可見一斑。這些舉措的缺失不僅凸顯了國際人工智能治理的選擇性，也暴露了在代表性方面的顯著差距，即使是在人工智能能力較強的60個國家中也未能幸免。2.工作機制更多的人工智能治理政策對話，核心在于通過聯合國平臺召集全球各利益相關方，共同參與到人工智能治理的多邊對話中。這個對話機制建議每年舉行兩次，目的在于促進全球范圍內對人工智能治理的深入理解和廣泛共識。通過這樣的政策論壇，各國能夠就人工智能的發展潛力、倫理問題、以及對社會的廣泛影響進行開放和坦誠的交流，探討如何在推動技術創新的同時，確保人工智能的發展能夠尊重和保護人權，實現可持續發展目標，為全球人工智能治理提供指導性的原則和實踐案例，幫助各國在人工智能的浪潮中找到平衡點，確保技術進步能夠普惠全人類。3.主要作用一是政策對話將強化國際間的互操作性與合作精神。它將鼓勵私營部門和公共部門在人工智能治理上形成合力，共同開發和實施有效的治理措施。通過這種合作，可以更好地應對人工智能帶來的跨國界挑戰，如數據保護、隱私安全問題、就業影響等。二是該對話機制還將提供一個自愿分享經驗的平臺，使得各國能夠就那些對本國機構構成挑戰的人工智能事件進行溝通和學習。三是國際人工智能科學小組的報告將在論壇上得到討論，確保政策制定能夠基于最新的科學發現和證據。（三）創建人工智能標準交流中心1.必要性在當前探索人工智能的初期階段，該領域缺乏明確的標準來引導和衡量其發展。圖靈測試（TuringTest）作為一個嘗試評估機器是否能夠展現出與人類相似行為的測試，雖然在公眾中引起了廣泛的關注和想象，但其文化意義似乎超越了科學意義。這些測試雖然容易為非專業人士所理解，但它們并不構成嚴謹的科學衡量標準。基于此，建立一個人工智能標準交流中心顯得尤為重要。這樣的中心可以匯集全球范圍內的標準制定機構、技術企業、民間社會的代表以及國際科學小組的專業知識，共同探討和制定人工智能相關的標準。這不僅有助于統一對人工智能系統性能的衡量和評估標準，而且可以促進全球范圍內的互操作性，確保人工智能的發展能夠符合倫理、安全和效率的要求。2.當前全球人工智能標準建設現狀當前全球人工智能標準建設的現狀呈現出快速增長和多樣化發展的特點。國際電信聯盟（ITU）、國際標準化組織（ISO）、國際電工委員會（IEC）以及電氣電子工程師學會（IEEE）等機構采用的人工智能相關標準數量正在不斷增加。這一增長反映了人工智能技術快速發展和廣泛應用的需求。然而，這一領域的標準化工作存在兩個主要趨勢和挑戰。首先，許多標準是為了解決具體問題而制定的，但人工智能領域缺乏統一的語言和共同理解，導致許多常用術語如公平性、安全性、透明度等沒有統一的定義或衡量標準。其次，存在一種脫節現象，即為了狹隘的技術目的或內部驗證而制定的標準與那些旨在納入更廣泛倫理原則的標準之間缺乏協調和一致性。3.工作機制標準交流中心將通過與國際科學小組和政策對話的緊密聯系，推動技術與道德倫理標準的協調發展。該中心將促進國際電信聯盟、國際標準化組織、國際電工委員會和電氣電子工程師學會等機構聯合舉辦人工智能標準峰會，確保標準的全球影響力和動力。同時，經濟合作與發展組織、世界知識產權組織、世界貿易組織心將提供能力建設信息，支持實際做法，并分享自我評估工具，以促進標準的實施和監督。隨著安全標準的正式確定，這些標準將為未來監測和核查機構提供基礎。（四）構建人工智能能力建設組織協調網絡建議創建一個人工智能能力建設網絡，將聯合國下屬的一系列合作能力建設中心連接起來，向關鍵參與者提供專業知識、算力資源和人工智能訓練數據。1.主要工作一是通過支持建立區域和全球網絡，促進和協調區域和全球人工智能能力的建設工作。二是提高公職人員的人工智能治理能尋求將人工智能應用于本地公共利益案例的研究人員和社會企業家提供培訓、算力資源和人工智能訓練數據。2.建設意義能力建設網絡應當成為國家和區域能力的催化劑，而不是硬件、人才和數據的集中地。通過加速學習，該網絡將推動國家人才中心促進地方人工智能創新生態系統的發展。我們希望該網絡能夠推動人工智能技術發展的另一種模式，即自下而上、跨領域、跨地區的開放與協作模式。由于訓練和部署人工智能模型的能源和其他成本不斷上升，以及算力資源閑置的可能性，將算力資源在時間共享的基礎上連接起來以便訪問，同時利用這種訪問促進跨領域人才、數據和人工智能模型的發展，從而實現可持續發展目標，將是非常有意義的。3.如何建設人工智能的能力建設需要一種全新的方法，特別是跨領域的培訓，以培養新一代的多學科專家。此外，能力建設還必須與成果掛鉤，通過在沙盒中進行實訓和開展合作項目來匯集數據和算們建議采取戰略性的方法，通過高性能計算節點網絡匯集和調配資源，激勵與可持續發展目標相關領域的數據集開發，促進人工智能模型的共享，并將人工智能治理的最佳實踐納入主流。這將有助于培養跨領域的人才，確保人權專業知識的整合。換句話說，我們建議通過一系列合作中心的建設實施整體戰略，而不是逐個追逐相互脫節的項目。理想情況下，全球每個地區至少應有一個或兩個節點。參與全球人工智能合作組織的專門知識中心可以與聯合國共同支持能力建設網絡。學術機構和私營部門的能力建設貢獻者可通過最近的區域節點或國際組織尋求附屬關系。1.功能與目標設立全球性人工智能基金，為彌合全球人工智能技術和治理鴻溝具有重要意義。如沒有全球范圍內的基金支持，許多國家將無法獲得必要的人工智能的培訓、算力、模型訓練等。強大的市場力量影響著人才和算力競爭的走向，地緣政治的競爭也影響著全球人工智能等科技合作的前景。然而，創造一個所有人都能做出共享并分享利益的人工智能生態，更加符合我們的集體利益。同時，確保人工智能模型開發和測試基礎設施的多樣化使用，有助于避免人工智能過分集中在少數技術公司可能導致的風險。設立人工智能全球基金的目標，是推動構建一個具有互操作性的值得信賴的人工智能模型所依賴的基礎設施和數據集，從而更好的為公共利益服務。這個目標不可能通過市場的力量自動實現，只有通過強有力的集體行為才有可能達成。2.主要投資領域這一基金的重點并非投資構建算力資源，事實上即使最富裕的國家和公司也很難獲得足夠的算力資源。我們更需要的是推動更好的利用現有的高性能計算資源，推動用更好的方法來連接全球范圍內的人才、算力和數據。因此，全球人工智能基金的主要投資領域主要包括三個方向。一是基金可幫助有需要的國際創新一個“最低限度”的共享計算基礎設施。該設施可幫助這些國家訓練一個中小規模的人工智能模型，可實現用當地語言培訓農民等功能，為推動聯合國可持續發展目標做出貢獻。二是基金可推動在全球范圍內創建共享的模型、算力生態。該生態可允許全球各國利用自己的背景數據和高質量數據對現有的開源模型進行微調。同時，還可以探索構建可以共享的算力等基礎設施，僅收取合理的使用費用于該共享生態的維護和運行成本。三是可投資構建一些全球通用的數據集。一些基礎性的數據集可能很難有商業價值，一般沒有公司愿意進行投資，因此需要基金進行投資。四是投資于有助于實現聯合國可持續發展目標的具體的人工智能應用的研發工作。3.運作機制該基金的管理和運作模式旨在通過籌集和匯集實物捐助，包括私營部門的捐助，實現資源的有效分配。基金治理強調獨立監督和問責，同時具有包容性，其理事會成員多元化，涵蓋政府、私營部門、慈善家、民間社會和聯合國機構。此外，基金將整合科學和專家的投入，確保在數據和模型開發中的中立性和信任。在業務運作方面，基金借鑒了歐洲核研究組織和全球疫苗免疫聯盟等國際研發合作的經驗，以及共享基礎設施商業平臺的模式。它還將參考全球基金和復雜風險分析基金的做法，這些機構通過匯集數據來支持利益相關方進行危機的預測、預防和應對。總體而言，該基金致力于通過合作和數據共享，提高對全球性挑戰的響應能力，確保資源的集中和有效利用。（六）完善全球人工智能數據訓練治理框架。1.必要性目前，全球范圍內對于人工智能的數據訓練方面還未能形成有效共識。盡管已有建議推動更廣泛的數據訪問權和共享，但實際執行的并不多。為了創建一個更加多樣化和活躍的人工智能生態系統，需要提高人工智能訓練數據的文化、語言和其他特征的透明度，以及識別并補充代表性不足或“缺失”的數據。2.確保人工智能模型數據安全的主要方法確保人工智能模型訓練數據安全的主要方法包括數據授權、數據信托和跨境數據安排。數據授權允許數據所有者和主體在維護權利的同時，安全、有限度地使用其數據。數據信托作為一種機制，使個人和組織能夠集體提供對其數據的訪問，而訪問權由受托人控制，確保數據所有者在貢獻的同時保留合法權利。此外，為了管理數據的獲取和使用，尤其是跨境獲取，需要依賴