2024年4月23日至25日，上海交通大學(xué)文科資深教授、日本研究中心主任、AI治理與法律研究中心主任季衛(wèi)東在澳門參加了為今年9月聯(lián)合國未來峰會而召開的預(yù)備性對話和2024年聯(lián)合國大學(xué)澳門人工智能國際研討會，作為創(chuàng)始成員出席了UNU AI Network啟動儀式，并策劃和主持了關(guān)于亞太地區(qū)生成式人工智能治理和法律的分論壇。
在預(yù)備性對話中，季衛(wèi)東教授指出：怎樣面對發(fā)展與安全之間的巨大張力，這是人工智能立法的核心問題；根據(jù)對這個問題的不同理解和解答，迄今為止各主要國家的制度設(shè)計可以大致分為四種模式，即歐盟的“硬法模式”、美國和日本的“軟法模式”、中國的“軟硬兼施法模式”以及新加坡的“技術(shù)程序法模式”。他認(rèn)為，如果大模型的技術(shù)研發(fā)不僅是AI治理的對象，也可以反過來為AI治理賦能，那么科技企業(yè)就不會對人工智能立法感到憂心忡忡。實(shí)際上，如果大模型的安全研究通過技術(shù)-程序的進(jìn)路能夠形成測試、評估以及監(jiān)控的工具箱，其中包括推廣數(shù)字水印技術(shù)、開發(fā)AI驗(yàn)證小模型、形成AIGC打假系統(tǒng)、建立AI倫理管理指標(biāo)體系和認(rèn)證平臺、編制AI安全保障網(wǎng)，那么監(jiān)管與發(fā)展就不再是一種零和游戲，AI治理還能為AI研發(fā)開拓出新的投資機(jī)遇或者市場空間，通過錯位競爭構(gòu)成企業(yè)的科技藍(lán)海。換言之，只有在語言大模型和多模態(tài)大模型的性能提升與安全度提升形成某種正比關(guān)系之際，只有在監(jiān)管轉(zhuǎn)變?yōu)槌绦虮疚缓图夹g(shù)本位之際，各國以及全球才有可能真正進(jìn)入所謂“人工智能治理的立法時刻”。
季衛(wèi)東教授策劃了關(guān)于亞太地區(qū)生成式人工智能治理和法律的分論壇，邀請中國澳門大學(xué)高等研究院院長於興中、日本一橋大學(xué)法學(xué)院和社會數(shù)據(jù)科學(xué)研究院教授寺田麻佑、新加坡人工智能國際研究院創(chuàng)始院長翁家良、美國西北大學(xué)法律與科學(xué)創(chuàng)新研究中心主任丹尼爾?林納擔(dān)任演講嘉賓，并且邀請華東師范大學(xué)人工智能金融研究院院長邵怡蕾教授擔(dān)任聯(lián)袂主席、該校政治與國際關(guān)系學(xué)院院長吳冠軍擔(dān)任評議嘉賓。在分論壇開始之際，季衛(wèi)東教授闡述了分論壇策劃的宗旨。他指出：“非常有趣而又耐人尋味的對照是，當(dāng)歐洲科技企業(yè)擔(dān)心偏重監(jiān)管的歐盟《人工智能法》勢必吞噬占投資17%的AI產(chǎn)業(yè)發(fā)展之際，《北京AI安全國際共識》卻呼吁各國政府和企業(yè)把AI研發(fā)預(yù)算的三分之一投到安全保障領(lǐng)域，似乎更偏向于監(jiān)管方面?！?3% vs. 17%”的成本效益競爭，仿佛構(gòu)成規(guī)則制定話語權(quán)的一個嶄新的制高點(diǎn)”。
在研討會期間，季衛(wèi)東教授還接受視頻采訪，介紹了上海交通大學(xué)在五天前成立的人工智能學(xué)院以及在五年前成立的人工智能研究院以及AI治理與法律研究中心，還介紹了中國計算機(jī)學(xué)會計算法學(xué)分會的活動，表示這些機(jī)構(gòu)都將會為UNU AI Network做出各自的貢獻(xiàn)。他還希望這個人工智能國際合作網(wǎng)絡(luò)能夠促進(jìn)不同國家、不同利益團(tuán)體之間的溝通和相互理解，為全球數(shù)字契約奠定基礎(chǔ)，并成為人工智能治理的助推者。
澳門之行結(jié)束后，季衛(wèi)東教授還就中美兩國關(guān)于人工智能的政府間對話問題接受了《潮新聞》記者的采訪，進(jìn)一步闡述了自己對人工智能治理國際合作的主張。
附：季衛(wèi)東訪談：中美間將舉行人工智能政府間對話首次會議， 會談些什么？
潮新聞：布林肯訪華期間，中美達(dá)成了五大共識，其中有一條是將舉行中美人工智能政府間對話首次會議。在您看來，為什么兩國在這一時刻認(rèn)識到了在人工智能領(lǐng)域洽談的重要性？
季衛(wèi)東：中美兩國在人工智能研發(fā)方面領(lǐng)跑世界，與第三位及其他國家之間的差距越拉越大，正在導(dǎo)致世界經(jīng)濟(jì)重新洗牌。
目前人工智能又處于爆發(fā)性更新迭代階段，安全與發(fā)展之間的張力也變得非常大，正在引發(fā)激烈的爭論。迄今為止，美國、中國以及日本都試圖在安全與發(fā)展之間達(dá)成適當(dāng)平衡，因而在人工智能治理方面采取的是所謂“軟法”模式。但是，歐洲議會在今年三月通過人工智能法，確立了安全優(yōu)先于發(fā)展的價值排序，要求成員國進(jìn)一步加強(qiáng)對科技前沿拓展和應(yīng)用場景的監(jiān)管，采取的是“硬法”模式。
在這樣的背景下，中國與美國都面臨如何就人工智能的未來格局形成國際共識這樣一個重大課題或挑戰(zhàn)。
非常有趣的是，幾乎與歐盟通過《人工智能法》的同時，三十幾位海內(nèi)外技術(shù)專家和企業(yè)領(lǐng)袖在中國簽署了《北京AI安全國際共識》，為人工智能研發(fā)劃出了幾條明確的紅線，并試圖以這些原則為基礎(chǔ)形成國際合作機(jī)制。
北京共識的主要內(nèi)容包括確保人類對AI系統(tǒng)復(fù)制和迭代的控制、反對大規(guī)模自動化武器的設(shè)計、導(dǎo)入國家注冊制以便按照全球?qū)R的要求加強(qiáng)監(jiān)管和進(jìn)行國際審計、防止最危險技術(shù)的擴(kuò)散、開發(fā)全面的治理方法和技術(shù)、建立更強(qiáng)大的全球安全保障網(wǎng)絡(luò)。非常有趣而又耐人尋味的對照是，這個共識呼吁各國政府和企業(yè)把AI研發(fā)預(yù)算的三分之一投到安全保障領(lǐng)域，似乎開始更偏向于監(jiān)管方面。
記得歐洲議會在去年6月底通過《人工智能法》談判授權(quán)草案之后，曾有包括西門子和空客在內(nèi)的150多家科技企業(yè)聯(lián)名發(fā)布了公開抵制信，指出法案規(guī)定過于嚴(yán)苛的監(jiān)管機(jī)制會大幅度壓縮科技創(chuàng)新空間，吞噬17%的AI研發(fā)投資，延誤歐盟數(shù)字經(jīng)濟(jì)的發(fā)展?，F(xiàn)在《北京AI安全國際共識》卻要求科技企業(yè)把研發(fā)投資的33%用于AI監(jiān)管方面?！?3% vs. 17%”的成本效益競爭，仿佛構(gòu)成規(guī)則制定話語權(quán)的一個嶄新的制高點(diǎn)。
美國在2020年制定的《國家人工智能倡議法》，基本目的是通過統(tǒng)籌協(xié)調(diào)來加速人工智能的研發(fā)和應(yīng)用、促進(jìn)經(jīng)濟(jì)繁榮和國家安全、審視AI治理的路徑、平衡個體權(quán)利與科技創(chuàng)新之間的關(guān)系，屬于典型的軟法模式。2022年10月白宮科技政策辦公室發(fā)布的《AI權(quán)利法案藍(lán)圖》、2023年1月國家標(biāo)準(zhǔn)和技術(shù)研究機(jī)構(gòu)發(fā)布的AI風(fēng)險管理框架等，也都是原則和政策的宣示，不具有任何法律約束力。在大模型引起全球輿情高度關(guān)注安全問題的背景下，拜登政府在2023年7月21日與人工智能領(lǐng)域的七家頭部企業(yè)達(dá)成關(guān)于AI研發(fā)和應(yīng)用的安全自愿承諾，仍然不具有任何法律約束力。
但是，參議員伊薇特?克拉克等提出的《2019年算法問責(zé)法案》及其2022年、2023年的更新版本則具有明顯的硬法化傾向。眾議院能源和商業(yè)委員會在2023年7月通過的《人工智能問責(zé)法案》則給政府施壓，希望在2025年之后采取實(shí)質(zhì)性問責(zé)措施來防范AI風(fēng)險。顯然，美國也存在著硬法化的趨勢。
由此可見，在人工智能領(lǐng)域，中美兩國圍繞何去何從的問題進(jìn)行對話的必要性和迫切性已經(jīng)顯現(xiàn)，而進(jìn)行合作的條件也已經(jīng)臻于成熟。其實(shí)中國與美國在人工智能領(lǐng)域的互補(bǔ)性大于競爭性。
美國在算法開發(fā)和計算能力具有明顯的優(yōu)勢，中國則在數(shù)據(jù)的規(guī)模和應(yīng)用場景的豐富性方面勝出，如果雙方選擇聯(lián)手而不是脫鉤，既可以避免人工智能技術(shù)無序擴(kuò)散帶來的風(fēng)險，也可以避免因?yàn)槿狈バ哦?/span>“零和博弈”的陷阱，顯然有利于在發(fā)展與安全方面達(dá)成更好的平衡。在2023年全球人工智能安全峰會上中美兩國都簽署了《布萊切利宣言》，承諾共同推動人工智能的安全和倫理發(fā)展，這是雙方在形成國際共識方面開展合作的良好開端。在此延長線上，中美啟動關(guān)于人工智能的政府間對話應(yīng)該是題中應(yīng)有之意。
潮新聞：在您看來，兩國的首次會談將討論哪些議題？
季衛(wèi)東：2024年9月下旬，聯(lián)合國將召開未來峰會，試圖以多邊協(xié)調(diào)的方法來解決人類社會共同面對的問題，實(shí)現(xiàn)可持續(xù)發(fā)展的目標(biāo)，為此還將推出一個注重行動的《未來契約》。在2022年11月底開啟的生成式人工時代，所謂霍布斯秩序問題似乎已經(jīng)由“所有人對所有人的戰(zhàn)爭”，轉(zhuǎn)化為“所有模型對所有模型的戰(zhàn)爭”，為此我們需要締結(jié)一種新的社會契約，或者說“全球數(shù)字契約”。在我看來，這正是《未來契約》的內(nèi)在含義。
此時此刻，人類社會正面臨這樣的根本性選擇：為了重構(gòu)秩序而承認(rèn)“算法利維坦”這種必要之惡？推行“數(shù)字立憲主義”或者“數(shù)字法治”以保障個人的自由和權(quán)利？通過各種“數(shù)字中間集團(tuán)”來達(dá)成多元化權(quán)力之間的制衡？無論如何，在聯(lián)合國未來峰會箭在弦上之際，中美兩國需要就國際基本共識進(jìn)行協(xié)調(diào)。所以，在9月的聯(lián)合國未來峰會締結(jié)什么樣的數(shù)字社會契約，應(yīng)該是兩國首次會談不得不面對的首要議題。
鑒于“人工智能安全”已經(jīng)成為新的關(guān)鍵詞，中美政府間對話當(dāng)然會聚焦安全議題，包括網(wǎng)絡(luò)安全、數(shù)據(jù)安全、自動化技術(shù)安全等等。
在基礎(chǔ)設(shè)施和重要應(yīng)用場景中如何確保人工智能的系統(tǒng)安全（safety）和社會安全（security），美國可能會堅(jiān)持《科學(xué)：無盡的前沿》確立的“技術(shù)中立性”原則，中國可能會強(qiáng)調(diào)“以人為本”理念。
在安全方面，兩國政府還勢必涉及作為大模型基礎(chǔ)理論的“對齊”問題，必須趕在人工智能技術(shù)失控之前找到適當(dāng)?shù)慕鉀Q方案，以確保人工智能系統(tǒng)的目標(biāo)與人類價值判斷保持一致，確保人類對人工智能系統(tǒng)復(fù)制和迭代的控制。為此，圍繞對齊的價值標(biāo)準(zhǔn)（例如個人的自由權(quán)利與社會的公共善、隱私與道德、平等與分類化、普遍性與特殊性等等）也會進(jìn)行討論。因此，AI安全也必然成為兩國首次會談的重大議題。
當(dāng)人工智能治理進(jìn)入立法時刻之后，法律規(guī)則與技術(shù)標(biāo)準(zhǔn)、實(shí)體與程序之間的關(guān)系也會成為討論的對象。特別是就人工智能治理的規(guī)范、標(biāo)準(zhǔn)以及程序如何形成國際共識，如何導(dǎo)入算法備案制或大模型國家注冊制，如何加強(qiáng)監(jiān)管和國際審計，有大量機(jī)制設(shè)計和實(shí)施的課題有待解決，需要中美兩國共同發(fā)揮引領(lǐng)作用。
還有一個具體而重要的議題，就是軍事領(lǐng)域的人工智能應(yīng)用很容易導(dǎo)致誤判和意外沖突，中美兩國政府有可能會重點(diǎn)討論如何制定規(guī)范以防患于未然。特別是限制大規(guī)模自動化武器系統(tǒng)的研發(fā)以及在核指揮控制系統(tǒng)中的人工智能應(yīng)用，防止最危險技術(shù)的擴(kuò)散，需要劃出明確的紅線。
潮新聞： 此前，中國在聯(lián)合國支持了美國提出的人工智能決議。而OpenAI等公司也時不時會遭到質(zhì)疑，或者被叫到國會質(zhì)詢。您如何評價美國近期在人工智能管控方面的進(jìn)展？在您看來，中美兩國目前在哪些方面（比如算力、倫理價值等）存在分歧？應(yīng)該如何解決？
季衛(wèi)東：美國不僅把人工智能理解為一場新的科技革命和產(chǎn)業(yè)革命，而且高度重視人工智能對國家安全的影響及其在確保美國領(lǐng)導(dǎo)地位方面的關(guān)鍵性意義。
2023年，拜登政府簽署的《人工智能的安全、安保和可信賴的開發(fā)與使用》總統(tǒng)行政令，標(biāo)志著美國將人工智能與國家安全更緊密地連接在一起，并進(jìn)一步加強(qiáng)對人工智能技術(shù)的管控。從對外的管控來看，美國近期特別注重管控人工智能技術(shù)給生物安全、網(wǎng)絡(luò)安全、國防安全、關(guān)鍵基礎(chǔ)設(shè)施安全所帶來的風(fēng)險，試圖與盟友一道在建立人工智能的全球技術(shù)標(biāo)準(zhǔn)和監(jiān)管體系中發(fā)揮主導(dǎo)作用。在這里，把“價值同盟”與“技術(shù)同盟”相疊加的構(gòu)想若隱若現(xiàn)。美國喬治城大學(xué)麥考特公共政策學(xué)院的亞歷克斯?·恩格勒（Alex Engler）教授已經(jīng)指出美國和歐盟在人工智能監(jiān)管方面開始趨于一致。
在實(shí)踐中，美國－歐盟貿(mào)易和技術(shù)委員會（TTC）于2022 年 12 月達(dá)成第三次部長級會議聯(lián)合聲明，指出美歐將在共同價值觀的指導(dǎo)下，形成人工智能相關(guān)的國際標(biāo)準(zhǔn)機(jī)構(gòu)協(xié)作方法，共同推進(jìn)國際標(biāo)準(zhǔn)制定工作。此外，認(rèn)識到隱私對推動負(fù)責(zé)任人工智能發(fā)展的重要性，美國和歐盟將開展一項(xiàng)試點(diǎn)項(xiàng)目，評估在適用的數(shù)據(jù)保護(hù)規(guī)則下的隱私增強(qiáng)技術(shù)和合成數(shù)據(jù)在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用。
但是，從對內(nèi)的管控來看，美國迄今為止的制度設(shè)計特征呈現(xiàn)出職能分散與因事制宜的特點(diǎn)，這與歐盟的統(tǒng)一化、綜合性的人工智能管控體系形成了鮮明的對照，也與中國算法備案、算法檢查、算法問責(zé)“三位一體”的人工智能管控體系大異其趣。
僅就發(fā)展趨勢而言，如果持一種謹(jǐn)慎樂觀的態(tài)度，那么在人工智能管控的“軟硬兼施”模式上，中美兩國也許可以找到不少類似點(diǎn)或者達(dá)成共識的基礎(chǔ)。在這里，目前兩國之間的最大分歧是，中國把人工智能視為彎道超車、經(jīng)濟(jì)結(jié)構(gòu)升級的機(jī)遇，而美國試圖通過人工智能維護(hù)其全球領(lǐng)導(dǎo)地位，特別擔(dān)憂中國在人工智能等關(guān)鍵技術(shù)領(lǐng)域的快速發(fā)展構(gòu)成挑戰(zhàn)。
為此，美國在先進(jìn)的芯片制造技術(shù)、5G等領(lǐng)域?qū)χ袊萍计髽I(yè)采取了一系列限制措施，其結(jié)果很可能刺激中國的民族主義情緒，逆轉(zhuǎn)全球化進(jìn)程，進(jìn)而以人工智能的制裁與反制裁的博弈為契機(jī)形成信息和經(jīng)濟(jì)的“兩個半球”格局。另外，在人工智能管控的思路上也的確可以看到某種價值分歧，例如中國強(qiáng)調(diào)“以人為本”的理念，而美國倡導(dǎo)“負(fù)責(zé)任的人工智能”。在隱私和知識產(chǎn)權(quán)保護(hù)方面，也存在這樣或那樣的差異。
為了解決中美兩國之間的分歧，首先應(yīng)該促進(jìn)圍繞人工智能風(fēng)險的溝通和相互理解，克服雙方在認(rèn)知上的各自盲點(diǎn)，特別是要在包括政府、企業(yè)、專業(yè)團(tuán)體、國際組織等在內(nèi)的多元化主體之間進(jìn)行充分的論證性討論和交流。清華大學(xué)戰(zhàn)略與安全研究中心與美國布魯金斯學(xué)會已經(jīng)開展多輪有關(guān)人工智能與國際安全治理的“二軌對話”，這樣的對話多多益善。
另外，地緣政治因素不應(yīng)影響到兩國在教育和研究方面的合作，大學(xué)的人才培養(yǎng)和交流應(yīng)該堅(jiān)持自由包容的精神。美國斯坦福大學(xué)發(fā)布的《2022年人工智能指數(shù)》顯示，在2010年到2021年期間，中美在人工智能出版物方面的合作數(shù)量增長了5倍，位居全球榜首，取得了豐富的成果，為科技創(chuàng)新和突破做出了重大貢獻(xiàn)。顯然這樣的合作不僅是互惠共贏的，而且有利于人類科技和文明的進(jìn)步。
潮新聞：您認(rèn)為，中美兩國在人工智能領(lǐng)域的洽談與合作對全世界而言有怎樣的重要意義？兩國能否由點(diǎn)及面，推進(jìn)其他領(lǐng)域的合作？
季衛(wèi)東：在人工智能領(lǐng)域中美開展對話與合作，進(jìn)而形成科技創(chuàng)新能力和應(yīng)用市場規(guī)模之間的互補(bǔ)關(guān)系，可以發(fā)揮數(shù)字經(jīng)濟(jì)雙引擎的作用，顯然有利于人類社會的可持續(xù)發(fā)展以及世界秩序的維護(hù)。
兩國達(dá)成共識的最佳切入點(diǎn)是技術(shù)標(biāo)準(zhǔn)的統(tǒng)一。如果占全球第一、第二位的兩大經(jīng)濟(jì)體和人工智能研發(fā)重鎮(zhèn)聯(lián)手確立人工智能的技術(shù)標(biāo)準(zhǔn)，顯然有利于系統(tǒng)之間的兼容和互操作性，有利于拓展科技創(chuàng)新空間，有利于提高數(shù)字經(jīng)濟(jì)的效益。
在此基礎(chǔ)上，還可以進(jìn)一步就人工智能法的制定和實(shí)施進(jìn)行協(xié)商，尋找發(fā)展與安全之間的適當(dāng)平衡點(diǎn)，尋找軟法與硬法之間的更佳組合方式。然后再圍繞人工智能的安全對齊問題探討各種價值觀的最大公約數(shù)和具有普遍意義的道德原則。相信圍繞人工智能可信度的探討也有助于增進(jìn)人類相互可信度。
人工智能的飛速發(fā)展實(shí)際上也在發(fā)揮一種媒介作用，不斷突破各種既有疆界，滲透到生活世界的每一個角落，成為真正的全球性議題。不言而喻，全球議題的有效解決需要全球合作。同樣性質(zhì)的課題還有氣候變化、糧食安全以及包括疫情防控在內(nèi)的公共衛(wèi)生和健康，都需要全球合作，其前提是中美兩國應(yīng)該摒棄成見進(jìn)行開誠布公的對話和協(xié)調(diào)。在這個意義上也可以說，人工智能治理方式的創(chuàng)新很有可能通往全球治理方式的創(chuàng)新。
（潮新聞 記者 徐軍， 2024-04-29 17:21發(fā)布）
