以代碼為核心驅(qū)動(dòng)的人工智能不僅深刻重塑人類行為與互動(dòng)的每一個(gè)層面，更進(jìn)一步改變?nèi)祟惿畹膽?yīng)對(duì)框架和時(shí)間觀念。人工智能賦予人類參與更加個(gè)性化未來的同時(shí)，也將人類悄然拉進(jìn)復(fù)雜的倫理挑戰(zhàn)和治理困境。

縱觀歷史，技術(shù)始終是一個(gè)中性概念，其價(jià)值展現(xiàn)很大程度取決于人類的應(yīng)用方式。隨著人工智能不斷高速突破技術(shù)邊界，在這場(chǎng)人與技術(shù)的共舞中，究竟是人工智能在服務(wù)人類，還是在駕馭人類的步伐？又或者，人類是否會(huì)盲目追隨技術(shù)的邏輯，陷入即時(shí)反應(yīng)的漩渦，最終在屏幕的孤立與自我價(jià)值的無盡比較中迷失方向？

在這個(gè)關(guān)鍵時(shí)刻，選擇何種道路，不僅關(guān)乎技術(shù)的未來走向，更關(guān)乎人類能否在這場(chǎng)技術(shù)與治理的“大戰(zhàn)”中站穩(wěn)腳跟，正如莎士比亞所述，“要是我們受制于人，親愛的勃魯托斯，那錯(cuò)處并不在我們的命運(yùn)，而在我們自己。”

?

01人工智能治理背景與現(xiàn)狀

以ChatGPT為代表的生成式人工智能技術(shù)，正助力人類打破不同學(xué)科領(lǐng)域的知識(shí)壁壘，推動(dòng)創(chuàng)新探索，并持續(xù)催生新的應(yīng)用場(chǎng)景、業(yè)態(tài)模式、市場(chǎng)形態(tài)與發(fā)展范式，為人類社會(huì)經(jīng)濟(jì)進(jìn)步注入了強(qiáng)大動(dòng)力。然而，人工智能技術(shù)的快速迭代升級(jí)及其潛在的異化風(fēng)險(xiǎn)，也帶來了一系列的安全挑戰(zhàn)和監(jiān)管難題。

如何促進(jìn)人工智能的健康開發(fā)、保障其安全性，并建立理性的倫理規(guī)則和法律規(guī)范，已成為當(dāng)前無法回避的全球課題。隨著“主權(quán)人工智能”等概念的快速興起，各主要國(guó)家和經(jīng)濟(jì)體的人工智能監(jiān)管和治理進(jìn)程顯著加速。相關(guān)機(jī)構(gòu)紛紛成立，立法、指南和規(guī)范也陸續(xù)出臺(tái)或提上議程，爭(zhēng)相創(chuàng)造對(duì)自身發(fā)展和安全有利的人工智能法律環(huán)境。

2023年，美國(guó)成立了由28個(gè)聯(lián)邦部門和機(jī)構(gòu)負(fù)責(zé)人組成的白宮人工智能委員會(huì)，以加強(qiáng)人工智能領(lǐng)域的統(tǒng)籌協(xié)調(diào)。同年，美國(guó)國(guó)家科學(xué)技術(shù)委員會(huì)（NSTC）更新了《國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》，美國(guó)國(guó)家標(biāo)準(zhǔn)及技術(shù)研究所（NIST）也發(fā)布了首個(gè)《人工智能風(fēng)險(xiǎn)管理框架》。

2024年5月，歐盟理事會(huì)正式批準(zhǔn)了《人工智能法案》，風(fēng)險(xiǎn)級(jí)別最高的“禁止”條款預(yù)計(jì)率先于2024年底啟動(dòng)適用，標(biāo)志著全球首個(gè)對(duì)人工智能進(jìn)行規(guī)范的系統(tǒng)性法律正式生效。

英國(guó)政府在人工智能治理方面也采取了積極行動(dòng)。2023年3月，發(fā)布了《創(chuàng)新型AI監(jiān)管》白皮書，加大包括1億英鎊預(yù)算在內(nèi)的人工智能投資；4月，又發(fā)布了《生成式AI使用指南》；11月，舉辦首屆全球人工智能安全峰會(huì)，爭(zhēng)當(dāng)人工智能治理方面的“領(lǐng)頭人”。

我國(guó)作為人工智能技術(shù)發(fā)展和應(yīng)用的領(lǐng)先國(guó)家，始終致力于在人工智能領(lǐng)域構(gòu)建人類命運(yùn)共同體，并積極主動(dòng)推進(jìn)人工智能治理工作。2021年12月，我國(guó)發(fā)布了《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，呼吁各國(guó)在軍事領(lǐng)域負(fù)責(zé)任地開發(fā)和利用人工智能技術(shù)。2022年11月，我國(guó)向聯(lián)合國(guó)大會(huì)提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，該文件從人工智能技術(shù)監(jiān)管、研發(fā)、使用及國(guó)際合作等方面，進(jìn)一步梳理了我國(guó)關(guān)于人工智能倫理治理的主張。2023年7月，國(guó)家網(wǎng)信辦等七部門聯(lián)合發(fā)布了《生成式AI服務(wù)管理暫行辦法》，這是全球首個(gè)針對(duì)生成式人工智能服務(wù)制定的具有強(qiáng)約束力的規(guī)則。同年10月，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇開幕式中提出《全球人工智能治理倡議》，為世界提供了基于人類命運(yùn)共同體理念的人工智能治理中國(guó)方案。

?

02《從狹義人工智能（ANI）向通用人工智能（AGI）轉(zhuǎn)型中的全球治理問題》報(bào)告解讀

技術(shù)本身并無善惡，其影響關(guān)鍵在于人類的利用方式。面對(duì)人工智能技術(shù)的迅猛發(fā)展及其帶來的復(fù)雜治理挑戰(zhàn)，國(guó)際社會(huì)亟需構(gòu)建一個(gè)全面、前瞻且具可操作性的治理框架，以及有效的管理機(jī)制，以確保人工智能的健康發(fā)展和應(yīng)用。

近期，千年項(xiàng)目（The Millennium Project，簡(jiǎn)稱“MP”）發(fā)布了《從狹義人工智能（ANI）向通用人工智能（AGI）轉(zhuǎn)型中的全球治理問題》報(bào)告。該報(bào)告聚焦于通用人工智能（AGI）帶來的治理挑戰(zhàn)，以及超級(jí)人工智能（ASI）出現(xiàn)可能產(chǎn)生的潛在風(fēng)險(xiǎn)。

報(bào)告認(rèn)為，“治理AGI可能是人類有史以來面臨的最復(fù)雜、最困難的管理問題”，并重點(diǎn)強(qiáng)調(diào)了解決AGI全球治理問題的緊迫性。報(bào)告呼吁各國(guó)應(yīng)在更為先進(jìn)且超出人類安全控制能力的人工智能出現(xiàn)之前，在國(guó)際層面建立針對(duì)AGI治理和協(xié)調(diào)的全球統(tǒng)一監(jiān)管體系，以有效防止因ASI爆發(fā)式增長(zhǎng)所帶來的不良后果。

MP是由未來學(xué)家兼現(xiàn)任執(zhí)行主任杰羅姆·格倫（Jerome C. Glenn）和曾是蘭德（RAND）公司顧問的西奧多·戈登（Theodore Gordon）于1996年創(chuàng)立的未來研究領(lǐng)域頂尖國(guó)際智庫。該智庫在全球擁有72個(gè)分部和3個(gè)區(qū)域網(wǎng)絡(luò)，其宗旨是“改善人類建設(shè)更美好世界的前景”。

MP定期發(fā)布“未來展望”報(bào)告，評(píng)估對(duì)人類未來發(fā)展至關(guān)重要的15個(gè)全球性挑戰(zhàn)，完成了60多個(gè)國(guó)際未來研究項(xiàng)目，并開發(fā)了40多項(xiàng)未來研究方法，在未來預(yù)測(cè)、促進(jìn)國(guó)際人工智能治理和人工智能政策指導(dǎo)等方面發(fā)揮了重要作用。

該報(bào)告的研究階段分為三個(gè)部分：第一階段于2020年初啟動(dòng)，重點(diǎn)就AGI全球治理模式、倫理、原則、價(jià)值取向、機(jī)制、模型等方面設(shè)置了22個(gè)相關(guān)議題，并對(duì)包括薩姆·奧特曼（Sam Altman）、比爾·蓋茨（Bill Gates）和埃隆·馬斯克（Elon Musk）等在內(nèi)來自美國(guó)、中國(guó)、英國(guó)、加拿大和歐盟等國(guó)家和國(guó)際組織的55名人工智能相關(guān)領(lǐng)域的杰出專家的訪談精華和觀點(diǎn)進(jìn)行了匯編，構(gòu)成了整體研究的評(píng)估基礎(chǔ)，并于2023年8月發(fā)表了《從狹義人工智能向通用人工智能轉(zhuǎn)型中的全球治理問題》報(bào)告；

第二階段由MP借助其全球分部和區(qū)域網(wǎng)絡(luò)，組織了包括中國(guó)MP分部的17位中國(guó)專家在內(nèi)的65個(gè)國(guó)家的學(xué)者，參與了第二階段的實(shí)時(shí)德爾菲法研究，并于2024年4月完成了《通用人工智能的全球治理要求》的報(bào)告，且已提交給聯(lián)合國(guó)相關(guān)機(jī)構(gòu)；第三階段計(jì)劃研究并發(fā)布現(xiàn)在至2035年期間替代性AGI治理的各種情景分析。

該報(bào)告的其他關(guān)鍵發(fā)現(xiàn)包括：鑒于AGI在醫(yī)學(xué)、教育、管理及生產(chǎn)力方面所展現(xiàn)出的巨大賦能潛力，各國(guó)企業(yè)正競(jìng)相角逐，力求成為這些關(guān)鍵領(lǐng)域的領(lǐng)軍者；AGI的崛起預(yù)示著政治權(quán)力的重新分配，各國(guó)政府因此紛紛加速布局，爭(zhēng)相參與AGI的研發(fā)與應(yīng)用，以期在新的國(guó)際格局中占據(jù)有利地位；國(guó)際合作在AGI的治理中扮演著至關(guān)重要的角色，然而，當(dāng)前國(guó)家和企業(yè)間在人工智能領(lǐng)域的霸權(quán)爭(zhēng)奪導(dǎo)致競(jìng)爭(zhēng)態(tài)勢(shì)緊張，這可能對(duì)國(guó)際合作構(gòu)成威脅。盡管共同的風(fēng)險(xiǎn)可能迫使各方走向合作，但克服彼此間的不信任將是一項(xiàng)艱巨的挑戰(zhàn)。

AGI的全球治理要求具備卓越的執(zhí)行力，以確保治理措施能夠在全球范圍內(nèi)贏得信任并得到有效實(shí)施。這一要求對(duì)于治理體系的構(gòu)建和實(shí)施提出了極高的標(biāo)準(zhǔn)。盡管存在諸多爭(zhēng)議，但報(bào)告提出，為了爭(zhēng)取足夠的時(shí)間來設(shè)計(jì)和管理AGI的解決方案，有必要對(duì)研發(fā)活動(dòng)進(jìn)行一定的限制。這一提議旨在平衡AGI的發(fā)展與社會(huì)、倫理及法律等方面的考量。有效治理AGI的窗口期十分有限，這要求全球各國(guó)展開前所未有的緊密合作，共同應(yīng)對(duì)AGI帶來的挑戰(zhàn)和機(jī)遇。這一窗口期的緊迫性也凸顯了全球合作的重要性和關(guān)鍵性。

?

03幾點(diǎn)思考

（一）構(gòu)建全球共識(shí)與協(xié)作機(jī)制：緊迫而充滿挑戰(zhàn)

面對(duì)人工智能加速迭代帶來的復(fù)雜治理挑戰(zhàn)，全球共識(shí)與協(xié)作機(jī)制的構(gòu)建顯得尤為迫切。僅僅依靠市場(chǎng)力量、分散的國(guó)家和多邊力量已不足以應(yīng)對(duì)風(fēng)險(xiǎn)，各國(guó)需在技術(shù)倫理、法律框架、安全標(biāo)準(zhǔn)等方面形成統(tǒng)一認(rèn)識(shí)，以共同應(yīng)對(duì)AGI可能引發(fā)的社會(huì)、經(jīng)濟(jì)、科技等全方位變革。

然而，盡管各方對(duì)緊迫性達(dá)成了廣泛共識(shí)，但對(duì)于應(yīng)該做什么、如何做、誰應(yīng)該做，以及最重要的，為什么應(yīng)該做，卻沒有達(dá)成一致意見。監(jiān)管國(guó)家與地區(qū)間話語權(quán)的不平衡、監(jiān)管基礎(chǔ)概念與理念的分歧、對(duì)ASI市場(chǎng)的利益爭(zhēng)奪，以及相關(guān)國(guó)際組織作用受限等困境，使得建立統(tǒng)一機(jī)制變得異常艱難。這要求各國(guó)必須超越傳統(tǒng)地緣政治的局限，在全球?qū)用嫘纬珊狭Γ餐犹魬?zhàn)，通過多邊機(jī)制加強(qiáng)對(duì)話與合作，打破當(dāng)前碎片化、區(qū)域性的全球監(jiān)管不平衡格局，共同探索人工智能治理的新模式和新路徑。

（二）探索靈活且規(guī)范的治理路徑：平衡安全與創(chuàng)新

無論是AGI還是ASI，作為技術(shù)進(jìn)步的重要組成部分，直接阻斷其發(fā)展是不現(xiàn)實(shí)的。更重要的是必須在鼓勵(lì)創(chuàng)新與確保安全之間找到恰當(dāng)?shù)?span>“黃金平衡點(diǎn)”。

一方面，過度的監(jiān)管可能抑制技術(shù)創(chuàng)新和應(yīng)用探索，阻礙人工智能技術(shù)帶來的社會(huì)發(fā)展；另一方面，缺乏有效的監(jiān)管則可能導(dǎo)致技術(shù)濫用、倫理失范乃至系統(tǒng)性風(fēng)險(xiǎn)。

因此，探索一種既能激發(fā)創(chuàng)新活力又能有效防控風(fēng)險(xiǎn)的監(jiān)管模式至關(guān)重要。這包括建立靈活的監(jiān)管框架，允許在嚴(yán)格的安全和倫理標(biāo)準(zhǔn)下進(jìn)行試點(diǎn)項(xiàng)目，并確保關(guān)鍵決策環(huán)節(jié)不缺少人工監(jiān)督，確保效率與判斷之間的平衡。

（三）制定長(zhǎng)遠(yuǎn)的可持續(xù)應(yīng)對(duì)策略：前瞻性與跨學(xué)科治理

伴隨著大模型技術(shù)的發(fā)展，生成式人工智能行業(yè)突飛猛進(jìn)，加之公眾參與成本和門檻越來越低，可以預(yù)見人工智能的升級(jí)將持續(xù)進(jìn)行。作為技術(shù)創(chuàng)新道路的固有組成部分，人工智能的長(zhǎng)遠(yuǎn)發(fā)展可能引發(fā)深遠(yuǎn)的社會(huì)結(jié)構(gòu)和權(quán)力關(guān)系變革。

因此，需要前瞻性地考慮其長(zhǎng)期影響，并制定相應(yīng)的應(yīng)對(duì)策略。這包括對(duì)經(jīng)濟(jì)模式、就業(yè)結(jié)構(gòu)、教育體系、國(guó)際關(guān)系等方面可能產(chǎn)生的沖擊進(jìn)行評(píng)估，并設(shè)計(jì)相應(yīng)的調(diào)整方案和社會(huì)保障措施。同時(shí)，建立跨學(xué)科的研究團(tuán)隊(duì)，結(jié)合計(jì)算機(jī)科學(xué)、社會(huì)學(xué)、法學(xué)、倫理學(xué)等多領(lǐng)域知識(shí)，對(duì)人工智能的發(fā)展路徑進(jìn)行持續(xù)監(jiān)測(cè)和評(píng)估，以便及時(shí)調(diào)整治理策略，應(yīng)對(duì)潛在的不確定性和風(fēng)險(xiǎn)。

總而言之，人工智能治理的核心在于確保技術(shù)服務(wù)人，而非駕馭人。只有通過正確的方法，才能充分發(fā)揮人工智能的價(jià)值，迎來一個(gè)以數(shù)據(jù)為驅(qū)動(dòng)、以人為本和以包容性決策為特征的治理黃金時(shí)代。

?

作者：首都科技發(fā)展戰(zhàn)略研究院國(guó)際研究部主任白英、文藝璇。

??

版權(quán)聲明：本文版權(quán)屬作者和首都科技發(fā)展戰(zhàn)略研究院所有。欲轉(zhuǎn)載文章，請(qǐng)您聯(lián)絡(luò)cistds@www.luxkon-ltd.com.cn，申請(qǐng)轉(zhuǎn)載授權(quán)。轉(zhuǎn)載時(shí)請(qǐng)注明"來源：首都科技發(fā)展戰(zhàn)略研究院"。原創(chuàng)之路不易，請(qǐng)自覺遵守我們的轉(zhuǎn)載要求，尊重作者及原創(chuàng)版權(quán)，違者將依法追究責(zé)任，感謝您的支持與配合！

編輯：陳瑾