【作者】季衛(wèi)東
【內容提要】
數字中國如何防止“算法利維坦”的暴走？
季衛(wèi)東 上海交通大學文科資深教授、中國法與社會研究院院長
數字技術驅動的中國式法制現代化
“數字地球”的概念是美國副總統阿爾伯特?戈爾在1998年首先提出來的。十年之后，“數字中國”的發(fā)展戰(zhàn)略開始擬定并實施。從2017年起，中國又提出“數字絲綢之路”的新概念，在促進數據的跨境流通的同時，也誘發(fā)了數據國際治理方面的問題和爭議。三年間的新冠疫情防控大幅擴大了日常生活的數字覆蓋面和信息技術的應用，虛實交錯的元宇宙經濟、金融科技、電子政府、網絡社區(qū)以及區(qū)塊鏈游戲等新型生存方式構成社會大轉型的主要內容。在這樣的基礎上，2023年，中共中央和國務院聯合發(fā)布了《數字中國建設整體布局規(guī)劃》，試圖以數字基礎設施和數據資源體系為雙軌繼續(xù)推動中國式現代化，預期到2035年形成國家競爭的明顯優(yōu)勢。
實際上，2010年代以后互聯網、大數據以及人工智能的功能迅速提升和廣泛應用，也使艱難曲折的中國法制現代化似乎找到了另辟蹊徑的機會。眾所周知，傳統的“情理法”多重結構拓展了司法和執(zhí)法的裁量空間，縱橫交錯的互動關系削弱了規(guī)范的效力和確定性。在這樣的條件下推動法制現代化，一強調審判獨立和專業(yè)化就很容易形成法官專斷，使判決變成缺乏正當性的強制；一強調審判公正和輿論監(jiān)督又很容易反過來加強對司法的外部干預——于是形成一個進退失據、反復循環(huán)的怪圈。信息技術在法院的普及在不經意間助長了社會對電腦量刑的客觀性、中立性以及確定性的期待，導致了世界罕見的“智慧司法熱”。一般而言，人工智能在本質上是規(guī)則嵌入的系統，可以造成法律規(guī)范剛性化和技術代碼化的結果，并通過計算機系統全程留痕的方式防止外部對司法判斷的干預，因而有利于加強對國家權力的制約。在這個意義上也可以說，通過人工智能系統對大數據進行分析和預測以及更廣泛的數字化處理，在相當程度上還是有利于貫徹那種防止政府濫用強制力的現代法治精神的。
主權利維坦與三股數字新興勢力的博弈
事實證明，數字化的社會轉型對霍布斯所描繪的那種為了擺脫“所有人對所有人的戰(zhàn)爭”狀態(tài)而壟斷暴力以及所有權力的無限政府——“利維坦”（巨靈）也的確產生了某種制約效果。例如巨型數字平臺借助國家的扶持政策和技術豁免獲得了某種“準主權性”和“富可敵國”的地位，通過算法助推的方式形成了強大的自治權或支配權，有可能發(fā)行某種形態(tài)的數字貨幣以及規(guī)避某個國家的征稅，并對線上廠商和社群展開評價、排序、監(jiān)管以及聯合制裁。數字平臺巨頭甚至還有可能威脅、干預乃至限制國家的立法權，實施一場數字時代的“憲法政變”：2021年2月25日通過的澳大利亞《新聞媒體和數字平臺強制性議價準則》就因Google的強烈不滿以及Facebook禁止該國媒體和用戶利用其傘下新聞平臺的壓力而被迫做出妥協、追加了仲裁機制修正條款。
又例如區(qū)塊鏈技術的應用把互聯網轉換成無需中介和中樞的分散化結構，個人終端構成交往的出發(fā)點和到達點，還可以創(chuàng)建用途廣泛的智能合約平臺，在數字經濟中個人所享有的價值因而可以界定并獲得制度化保障。在這里，在線用戶其實就是一群具有自決權的個人，甚至可以借助隱私壁壘靈活機動地進行“主權個人對主權國家”的游擊戰(zhàn)。除此之外，還有在2023年飛速迭代更新的生成式人工智能，由于多層網絡的機器學習、深入語境的學習以及學習方法的學習，在很大程度上已經使人類事先給定的特征設計變得沒有意義；多模態(tài)大模型正在自我塑造和發(fā)展成一種自動化的生態(tài)系統，在不同程度上擺脫包括知識產權在內各種規(guī)范的控制，并且可以跳過企業(yè)和專家直接對每一個人賦能。因此，各種大模型怪獸以及人工通用智能勢必構成對國家現行制度的嚴峻挑戰(zhàn)。
作為“算法利維坦”而復興的現代國家權力
但在另一方面，我們也可以看到國家權力也借助數字信息技術重新抬頭，并獲得前所未有的強勢地位和能量，演變成一種“算法利維坦”，給那種旨在制約政府權力、保障個人自由的現代法治秩序將帶來另一種巨大風險和嚴峻挑戰(zhàn)。在數字時代，特別是隨著多模態(tài)大模型不斷橫空出世，算法黑箱化與社會透明化之間的矛盾變得越來越尖銳化了。請想象一下這樣的數字國家：所到之處布滿了電子探頭和感應器，彷佛有千萬只眼睛在閃光，無聲地不斷掃描和分析一切現象，并對人和物進行全景無死角、常時無間斷的監(jiān)視，并不斷積累數據以供人工智能系統進行分析、評價、預測以及判斷。不難推斷，在隱私消失的地方個人自由也會隨之消失；而對這種高度專業(yè)化、高效運轉的管理機制以及智能化法律決定，由于算法難以理解和說明，作為對象人的公民其實是很難參與和問責的。盡管如此，我們不得不承認這種狀況還是在一定程度上反映了現代主權國家體制的底層邏輯。
因數字技術而實現的上述“視線的陷阱”，似乎真正實現了英國法學家和法制改革推動者邊沁在十八世紀末提出的作為“一種新形式的通用力量”的環(huán)形監(jiān)控裝置（Panopticon）設計構想，也充分印證了法國社會思想家福柯在二十世紀七十年代曾經闡述的對現代國家和法的獨到見解。在?？碌睦碚撘曈蚶?，我們的確可以發(fā)現現代化的權力和法制內涵的另一側面：監(jiān)視和規(guī)訓，一覽無余的觀察、分析以及綿密的計算。按照他的觀點，對理性與非理性進行區(qū)別會產生一種排除的空間，但權力卻可以不依賴強制而對個人進行馴化和管教，對社會進行治理和助推；法律秩序在本質上就是這種關于統治性（governmentality）的多樣化權力技藝及其復合體，不僅包括政治機構的運營，也包括廣義的治安管理，還包括決定個人與政府之間互動關系的整體框架乃至各種調整機制。從無所不在的“大監(jiān)察”這個維度來理解國家與法的現代化進程的這種論述雖然不無偏激色彩，但也的確包含對現代化及其法治內涵某些側面或維度的深刻洞察和反思，值得我們重視并從中汲取教訓和制度改良的啟示。
綜上所述，人們越來越頻繁提及的“數字主權”，這個概念其實包含兩種意蘊，一方面是指國家主權在數字空間面臨被削弱的風險，另一方面則暗示主權將采取數字形態(tài)，轉化為一種“算法利維坦”，獲得新生的魔力。兩者相反相成，構成奇妙的悖論。需要特別注意的倒是后一方面。作為算法利維坦而再次強大起來的國家主權有時的確以高高在上的姿態(tài)而君臨天下，但更多的時候卻融化在數字網絡之中，變成調整互動關系的一段編程代碼，顯得更加伸縮自如、法力無邊。特別是生成式人工智能拆除了語言和價值之間的藩籬，大模型的多語種、多模態(tài)工作機制自然而然會促進國際化、全球化與國家主權之間的相互影響，但這樣又會反過來刺激民族國家的身份認同感以及圍繞價值對齊的沖突。
算法利維坦的兩種法律試行現象
針對當下“所有模型對所有模型的戰(zhàn)爭”以及對大模型算力需求猛增的形勢，科技部在2023年4月17日發(fā)起成立國家“超算互聯網”聯合體，把分布在全國的大量超算中心通過算力網絡連接起來，構建“大一統”算力服務平臺，通過“超算互聯網”來打造國家算力基座乃至基座模型。同年7月7日，在世界人工智能大會上，國家標準委員會指導的國家人工智能標準化總體組宣布成立首個大模型標準化專題組，由上海人工智能實驗室、百度、360、華為、阿里等企業(yè)聯合負責，正式啟動大模型測試國家標準的制訂工作。顯然，其目標是推動大模型與標準化相結合，形成頭部科技企業(yè)側重行業(yè)大模型、國家推動通用大模型、打造高質量發(fā)展新基座的分工格局。這種思路并非僅僅出于成本效益的合理計算，顯然也有利于維護數字主權，可以進一步加強算法利維坦的權力集中化效應，防止生成式人工智能的失控。
除此之外，針對主權化個人隱匿在區(qū)塊鏈中對監(jiān)管體制展開的游擊戰(zhàn)，中國根據貴州經驗提出了“主權區(qū)塊鏈”的概念，即維持分布式、不可篡改、互相可信任、通過智能合約轉移價值等區(qū)塊鏈固有特征的同時，也向其中注入國家主權的意志，加強了對鏈上活動的政府監(jiān)視和技術干預，因此具有非完全去中心化的特征。按照全國科學技術名詞審定委員會在2017年做出的概念界定，主權區(qū)塊鏈是以分布式賬本為基礎，以規(guī)則和共識為核心，以國家主權為前提的區(qū)塊鏈。在這里，規(guī)則是指“代碼加法律”，共識強調以“人”而不是“數”為導向，傾向于“多中心”而不是“去中心”。從2023年的走勢來看，“主權區(qū)塊鏈”已然被認為是數字時代繼續(xù)推動國家治理體系現代化的一個標志，也構成全球治理重構的一種中國方案。但這樣也就很可能使作為個人自由的基礎的隱私終究無處藏匿、難以保護。
應對之道：數字立憲主義，抑或數字關系主義？
由此可見，當下我們面對的最大法學問題是，究竟應該如何防止算法利維坦的暴走？能否像十七世紀末以來啟蒙思想家和政治家通過加強對個人自由和權利的制度保障來制約主權利維坦那樣，推行“數字立憲主義”或者“數字法治”，用以保障“數字人權”？或者借助現實中業(yè)已存在的數字平臺巨頭（例如在美國指谷歌、蘋果、臉書、亞馬遜構成的GAFA，在中國指百度、阿里巴巴、騰訊、華為構成的BATH）、活躍在區(qū)塊鏈里的主權化個人游擊隊以及多模態(tài)大模型的綜合力量來制衡算法利維坦，使網絡空間宛若回歸到西歐“中世紀”的多元化權力格局或者中國官僚機構“間接管制”的鄉(xiāng)規(guī)民約式關系秩序？或者把這兩種前景結合起來，在數字化社會轉型過程中進行現代法治范式的創(chuàng)新？
互聯網2.0時代崛起的一群數字平臺巨頭、互聯網3.0時代形成的大量虛擬社區(qū)、人工智能4.0時代簇生的各種通用大模型，其實都構成數字形態(tài)的中間集團，或多或少類似中世紀西歐的教會、行會以及帝制中國的血緣、地緣、業(yè)緣共同體。這些中間集團可以超出主權國家的疆域互相結合并產生全球性影響，同時也可以制定自治的規(guī)則、在國家之外形成解決糾紛的機制。例如數字平臺和虛擬社區(qū)的內部規(guī)章制度包括技術標準、算法、代碼，可以通過積分、升級、服務優(yōu)待、物質獎勵、稅費減免、數字貨幣報酬以及投票權分配、禁止入群和發(fā)聲、撤除網頁、限期或永久封號等方式進行制裁，還可以通過目的信托契約、立法談判、互聯網法院等方式與現實世界的法律制度相銜接。實際上，在數字世界縱橫交錯的那些自主性很強的互動關系及其游戲規(guī)則正是導致整個社會的秩序原理發(fā)生根本性轉換的底層邏輯。
轉向新型程序主義：尋找法律與技術的最佳組合
在上述這種復雜而流動的狀態(tài)下，制度設計的重點勢必從結構轉向過程。為了通過人工智能系統內嵌的公正程序以及不同人工智能系統之間的分權制衡機制來防止大平臺和大模型的濫用，也為了制衡那個獨特的算法利維坦以及私人化的各種算法權力（包括人工智能助理的權力），現代法治的程序公正原則理應被重新定義并發(fā)揮更加重要的作用。
法律上的程序公正要求是眾所周知的，主要是指確保論證性對話在自由而平等的條件下順利進行的制度安排。在數字時代，還必須考慮數據處理以及算法設計和執(zhí)行在技術上的程序公正，其目標是要解決代碼及其框架應該如何適當規(guī)制、代碼的作者究竟是誰、誰能控制代碼的作者、對代碼的妥當性是否存在事先的論證程序或事后的糾正程序、作為中介機構的網絡服務提供商的權力和責任應該如何配置、應用數據流的軟件開發(fā)受到什么樣的規(guī)制、數字監(jiān)視和網絡搜索是否設定了限制性條件等一系列涉及過程妥當性的問題。一言以蔽之，技術性正當過程的本質是通過代碼規(guī)制保障個人的數字權利。如果這種對代碼的規(guī)制也采取法律的形式，那么就可以發(fā)現技術性程序公正與法律性程序公正之間的交集和組合。在一定意義上也可以說，尋找這兩者之間最佳組合方式，就是今后數字國家繼續(xù)推進現代化事業(yè)的主要法治內涵，也可以理解為數字立憲主義或數字法治的出發(fā)點。
原文節(jié)選刊載于《鳳凰周刊》“2024中國時局報告”特輯，感謝《鳳凰周刊》授權推送。