【作者】季衛(wèi)東
【內(nèi)容提要】
摘 要：本文以大數(shù)據(jù)與人工智能的正比例關(guān)系為線索，分析了信息技術(shù)普及和數(shù)字經(jīng)濟發(fā)展背景下公民基本權(quán)利面臨的危機以及憲法體制進行創(chuàng)新的契機。過度強調(diào)隱私就會限制個人數(shù)據(jù)的收集和應(yīng)用，使人工智能難以迅速進化；反之則會造成機器官僚主義的獨裁、問責機制的瓦解——這是當今憲法學的一個悖論。作者認為，隨著機器學習能力不斷加強，算法黑箱化問題日益嚴重，以技術(shù)制衡技術(shù)將成為自然人對機器人進行間接管制的重要方式。疫情防控中智慧網(wǎng)絡(luò)用于社會基層治理的實例和外國電子政府的經(jīng)驗也證明：把集權(quán)式的人工智能算法與分權(quán)式的區(qū)塊鏈協(xié)議結(jié)合起來進行合理的機制設(shè)計，有可能成為新時代憲法秩序變遷的方向。
01 序言：算法獨裁與數(shù)字人權(quán)的對峙
在當今社會，人工智能的應(yīng)用范圍已經(jīng)越來越廣泛，顯著提高了生產(chǎn)的效率和生活的品質(zhì)。當然這種便利性也是有代價的。從現(xiàn)代憲法學的角度來看，這種代價主要是犧牲隱私。把海量數(shù)據(jù)、圖像等個體信息提供給計算機學習和處理，以便對行為進行預(yù)測和模仿，因而人工智能系統(tǒng)勢必大量吞吐和咀嚼隱私。但隱私正是個人自由的基礎(chǔ)。也就是說，高度進化的電子計算機有可能在相當程度上以算法獨裁（Algocracy, John Danaher的表述）的方式限制甚至剝奪個人的自由，會以效率、便利、娛樂等不同誘因促使人們不斷放棄既有的基本權(quán)利。這種代價也包括會思考的機器將大幅度取代人類的行為、冒犯人格的尊嚴，人機混合實際上正在招致人的動物化、機械化，并在根本規(guī)范層面引起了關(guān)于人道、正義以及倫理的一系列兩難問題。另外，這種代價還包括算法黑箱化導(dǎo)致問責機制的削弱、蛻變以及瓦解，使限制權(quán)力的現(xiàn)代法治精神難以落實。
據(jù)報道，到2017年底為止我國城市設(shè)置的攝像頭達到1億7000萬個，其后還將大幅度增加。由于不像歐美那樣對人臉識別技術(shù)的嚴格限制，也沒有使用圖像數(shù)據(jù)必須經(jīng)過本人許可的程序，中國根據(jù)海量圖像數(shù)據(jù)進行人工智能研究的績效的確非常突出，已經(jīng)達到世界頂級水平。這種獨特的條件使人工智能系統(tǒng)的深度學習能力超強，并能把有關(guān)成果迅速應(yīng)用于經(jīng)濟和社會治理的各個方面，然而也加劇了算法黑箱化的程度。如果我們希望避免粗暴的數(shù)據(jù)攫取和算法獨裁，希望按照“以人為本”的原則發(fā)展一種可信賴、可說明的人工智能，希望防止公權(quán)力以智能化決定的名義轉(zhuǎn)嫁或推卸責任的流弊，那就必須注重與人工智能以及物聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的憲法學研究，認真探索在高科技時代切實保障公民基本權(quán)利、特別是個人信息安全和隱私權(quán)的方式和舉措。
2019年6月陌陌網(wǎng)絡(luò)科技公司推出的智能軟件“ZAO-逢臉造戲”，通過一張正面照就可以制作各種熱門表情包和經(jīng)典電影片段，曾經(jīng)轟動一時。但在用戶協(xié)議中有一個格式條款要求消費者把肖像權(quán)完全免費、不可撤銷、永久地授予該公司，并允許該公司及關(guān)聯(lián)公司在全球范圍內(nèi)進行網(wǎng)絡(luò)信息傳播、轉(zhuǎn)授權(quán)以及再許可，引起媒體一片批評并導(dǎo)致工信部在9月采取監(jiān)管行動。同年10月，浙江理工大學一位副教授對杭州野生動物世界強行采用人臉識別技術(shù)進行檢票提起訴訟，以維護個人信息安全以及年卡合約的效力。上述現(xiàn)象說明，中國社會對任意收集和使用個人圖像數(shù)據(jù)的風險意識提高了，人工智能時代的憲法權(quán)利正在成為非常突出的社會問題，因而我們有理由把2019年視為中國“數(shù)字人權(quán)元年”。
02 人工智能對現(xiàn)代憲法體制的挑戰(zhàn)
1 大數(shù)據(jù)與人工智能的正比例關(guān)系
馬云曾經(jīng)把數(shù)據(jù)比喻為二十一世紀的“石油”，即具有最重要經(jīng)濟和社會價值的生產(chǎn)資料。要想從海量數(shù)據(jù)中搜尋出有用的信息、甄別和防控風險、實現(xiàn)數(shù)據(jù)內(nèi)在的價值，就必須改進網(wǎng)絡(luò)架構(gòu)、提高數(shù)據(jù)處理能力，這就需要強大的計算機信息處理系統(tǒng)。因此，第四次產(chǎn)業(yè)革命勢必以人工智能為基本特征，造成一個萬物互聯(lián)互通、靠數(shù)據(jù)驅(qū)動、智慧網(wǎng)絡(luò)化的社會。一般而言，人工智能是以數(shù)據(jù)為養(yǎng)料而成長的技術(shù)。離開海量數(shù)據(jù)，人工智能就無法發(fā)展和提高預(yù)測能力。所以大數(shù)據(jù)與人工智能的發(fā)展之間存在顯著的正比例關(guān)系：數(shù)據(jù)的規(guī)模越大、質(zhì)量越好，往往人工智能的功能就越強、預(yù)測的精確度也就越高。這種關(guān)系在預(yù)測犯罪或者開發(fā)有效的疫苗和藥品等應(yīng)用場景表現(xiàn)得尤其清楚。
現(xiàn)階段的中國，人口規(guī)模（約十四億）、網(wǎng)民人數(shù)（約八億）以及每天產(chǎn)生的數(shù)據(jù)量（約900兆字節(jié)）均為世界第一。由于國情和社會基礎(chǔ)設(shè)施方面的某些特征，中國的互聯(lián)網(wǎng)金融、網(wǎng)上購物、外賣快遞、移動支付、“一卡通”系統(tǒng)非常普及，為數(shù)據(jù)的收集和應(yīng)用提供了各種各樣必要的場景和充分的條件。根據(jù)2018年的統(tǒng)計，中國大數(shù)據(jù)產(chǎn)業(yè)相關(guān)人才的規(guī)模全球第一，占比59.5%，比第二位的美國高出37.1個百分點。更值得留意的是，中國數(shù)據(jù)的公有化程度極高，大約70%以上的優(yōu)質(zhì)數(shù)據(jù)資源由國家掌控。這種狀況有利于打破各種局部疆界充分調(diào)動數(shù)據(jù)資源來發(fā)展產(chǎn)業(yè)經(jīng)濟，也勢必促進人工智能在國家治理和法律制度運作方面的廣泛應(yīng)用，但也把個人數(shù)據(jù)安全和隱私保護問題以更加尖銳的形式呈現(xiàn)出來。
2 基于評分系統(tǒng)的身份原理與警察國家
例如作為第三方征信機構(gòu)的芝麻信用，利用海量的各種數(shù)據(jù)（特別是阿里巴巴的電商交易數(shù)據(jù)和螞蟻金服的互聯(lián)網(wǎng)金融數(shù)據(jù)，也包括政府數(shù)據(jù)）構(gòu)成個人數(shù)字化行為履歷，分別從身份特質(zhì)、行為偏好、履約能力、信用歷史、交友關(guān)系等不同維度進行信用評分。在這里，950分為滿分，750分以上為信用優(yōu)良，550分以下（底限是350分）為缺乏信用。信用優(yōu)良的用戶可以享受很多優(yōu)惠，如租車、住酒店不必交押金，網(wǎng)購可以先試后買，辦理某些國家的旅游簽證簽證不必辦理存款證明，租房可以零押金、先入住后付款，看病可以先診療后付費，還有信用婚戀等等。據(jù)報道，這個征信系統(tǒng)的登記人數(shù)已經(jīng)達到兩億，到2020年還將落實全民義務(wù)登記社會信用系統(tǒng)的計劃，形成空前規(guī)模的“評分社會”或者說等級化的“排序社會”。最高人民法院已經(jīng)與芝麻信用簽署合作協(xié)議，形成了一種聯(lián)合懲戒失信行為的機制——把判決不執(zhí)行等違法行為納入信用評價范圍，通過各種應(yīng)用平臺限制失信被執(zhí)行人的各種經(jīng)濟活動和生活方式，借助大數(shù)據(jù)強化債務(wù)履行和判決執(zhí)行。
眾所周知，隨著改革開放的進展，中國的財產(chǎn)關(guān)系日益復(fù)雜化；由于社會信用體系不太完備，從1990年代開始債權(quán)回收和判決執(zhí)行的困難就變得越來越突出。在這樣的背景下，最高人民法院借助大數(shù)據(jù)、人工智能以及芝麻信用的征信資料來追查和懲戒被執(zhí)行人的失信行為當然是必要的。但不可忽視的是，在官民一體化的聯(lián)合懲戒機制形成和加強之后，如果沒有適當?shù)囊?guī)范制約和數(shù)據(jù)安全保障，中國就會以評分系統(tǒng)為媒介迅速轉(zhuǎn)變成史無前例的“監(jiān)視社會”，個人的權(quán)利很容易受到這樣或者那樣的侵犯。例如芝麻信用的評分和失信記錄會作為數(shù)字化檔案保存五年，對家庭生活的各方面，包括就學、就業(yè)、晉升、入保等產(chǎn)生深遠的、復(fù)雜的負面影響。其結(jié)果，可能會使得每個公民都有一個由大數(shù)據(jù)和人工智能構(gòu)成的數(shù)字人格如影隨形 ，在不知不覺中影響其命運；可能會使在現(xiàn)代化過程中被否定的身份原理在數(shù)字人格的基礎(chǔ)上重新復(fù)活，事實上把每個公民作為“網(wǎng)絡(luò)人”分為三六九等；可能會在事實上使公民失去悔過自新的機會（為此《歐盟通用數(shù)據(jù)保護條例》規(guī)定了個人信息刪除權(quán)、被遺忘權(quán)作為救濟手段），導(dǎo)致社會的階層之間更加缺乏流動性，特別是造成底層固化、形成“虛擬貧民窟”；可能會按照某種分類法或群體特征給公民個人貼上某種特定的標簽，造成在所謂“新集體主義”框架內(nèi)的身份原理和算法歧視。例如美國有的人工智能系統(tǒng)把黑人等同于大猩猩、對亞裔族群在教育方面實行價格歧視，等等。
物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的“鐵三角”，在某些場合還可能剝奪公民對個人信息的自我處分權(quán)（隱私權(quán)）、人格尊嚴以及法律面前平等的權(quán)利。例如常見的電商和網(wǎng)絡(luò)平外把個人消費信息作為學習數(shù)據(jù)使用，分析行為樣式并發(fā)布對標廣告，這是否已經(jīng)構(gòu)成對隱私權(quán)的侵犯是需要認真考慮的。特別是遺傳信息包含那些與生俱來的特性，一旦由人工智能進行解讀和外泄就很容易影響個人入學、就業(yè)以及加入商業(yè)保險，大幅度減少某些公民的人生機遇和選擇空間。尤其是保險制度本來就是基于不利結(jié)果發(fā)生的偶然性而形成的互助機制，如果人工智能通過各種數(shù)據(jù)能夠準確計算和預(yù)測特定個人未來的風險，就勢必要把入保申請者分成不同類型進行差異化處理，導(dǎo)致人與人之間的不平等待遇，有些公民可能遭受歧視、被排除在外，這就勢必從根本上動搖保險制度通過偶然性分散風險的邏輯基礎(chǔ)。在一定意義上也可以說，如果在制度層面容許那些基于來自父母遺傳信息的差別，其實就是在向封建時代的血統(tǒng)觀、身份原理倒退 。實際上，現(xiàn)代憲法的根本原則是維護公民的自由和平等，絕不允許把個人自己無法選擇、無法糾正的事由作為不平等待遇的依據(jù)。
3 現(xiàn)代憲法體制的應(yīng)對舉措及其困境
鑒于上述問題在各國發(fā)展的趨勢，歐盟通用數(shù)據(jù)保護條例（2018年5月25日實施，簡稱GDPR）從維護現(xiàn)代憲法體制的立場出發(fā)，特別強調(diào)了對個人尊嚴和公民基本權(quán)利的保障，被譽為人工智能時代的新人權(quán)宣言。這個條例能直接約束各加盟國的立法，具有根本規(guī)范的屬性，同時對歐盟各國向其他國家轉(zhuǎn)移數(shù)據(jù)的業(yè)務(wù)也能發(fā)揮約束效力。為了防止上述侵犯個人數(shù)據(jù)和隱私、個體尊嚴以及機會平等性的流弊，歐盟GDPR第21條承認個人享有對基于大數(shù)據(jù)的人工智能檔案或者數(shù)字行為履歷提出異議的權(quán)利（反對權(quán)），如果數(shù)據(jù)管理者不能出示充分的正當性根據(jù)，必須中止電腦化處理。第22條還承認數(shù)據(jù)主體享有不服從那種僅根據(jù)人工智能而自動化做出的決定的權(quán)利，即公民享有對人工智能純自動化決定的抵抗權(quán)，要求必須有人介入和監(jiān)控計算機的信息處理。為了防止這種公民抵抗權(quán)被化解，GDPR明確指出數(shù)據(jù)管理者不得通過假裝有人介入的方式來規(guī)避第22條的約束，確保人工智能不能單獨地、自動化地做出決定。該條例第13條第2款還特別強調(diào)了透明性原則，要求數(shù)據(jù)管理者必須對數(shù)據(jù)主體履行信息公開的義務(wù)，并且所提供的信息、程序、規(guī)格、算法都必須能為主體所理解，是可以清楚說明的。
但是，不得不承認，歐盟通用數(shù)據(jù)保護條例第13條第2款和第22條在實施中會碰到一些前所未有的難題。規(guī)定必須由人介入和監(jiān)控計算機的運作，其宗旨顯然是要確保人工智能的可控性。然而信息處理系統(tǒng)越復(fù)雜就越容易出現(xiàn)操作的失誤，當系統(tǒng)運作速度極快時人也很難對情況進行認識、預(yù)測以及掌握。何況系統(tǒng)與系統(tǒng)之間會產(chǎn)生目的沖突和互動，在存在機器學習甚至深度學習的情況下，不同人工智能系統(tǒng)之間的互動關(guān)系勢必極其復(fù)雜而變幻莫測。而且機器學習的效果越精準、深度學習的功能越強大，算法的涵義就會變得越來越難以理解和說明。例如2017年5月中國最高段位的圍棋選手柯潔與AlphaGo對弈以零比三失利，后者留有五十份自我對戰(zhàn)棋譜讓所有專業(yè)棋手都覺得不可思議，從專業(yè)知識和經(jīng)驗的角度無法參透人工智能在機器學習之后根據(jù)概率進行這種貌似“臭棋”走法的緣由。但正是這些出其不意攻其無備的走法導(dǎo)致AlphaGo大獲全勝。這正是人工智能算法可能變得無法理解和無法說明的一個典型例證。在這種情況下，人對人工智能系統(tǒng)運作的介入和監(jiān)控究竟有多少意義呢？因此，在自然人無能為力的地方，只好以人工智能來監(jiān)控人工智能，通過不同的技術(shù)進行互相制衡也許是解決上述難題的一條思路。
在無法理解和無法說明的場合，算法是黑箱化的。這樣的算法黑箱化，實際上也使人工智能具有了不受約束的權(quán)力性，使在現(xiàn)代民主法治國家具有關(guān)鍵意義的問責機制已經(jīng)名存實亡。立法機構(gòu)的決定、司法機構(gòu)的判斷、行政機構(gòu)的具體處分行為都需要給出明確的理由，以便據(jù)此防止主觀任意性，給相對人以申訴和復(fù)議的機會。如果人工智能進行的預(yù)測、提供的結(jié)論無法說明其理由，就無異于用“莫須有”的名義來做出決定，或者進行案件審理和制裁，且無從追究決定者是對還是錯的法律責任。可想而知，歐盟通用數(shù)據(jù)保護條例明確規(guī)定不能讓人工智能獨自進行自動化決定的主要原因就在這里。但是，隨著人工智能在國家治理和法律制度運行中廣泛滲透以及算法難以理解和說明，在很多應(yīng)用場景下人們其實很難有效監(jiān)控人工智能；相反，人工智能倒很容易成為人們轉(zhuǎn)嫁決策風險、逃避問責的一種重要的手段。毋庸諱言，在中國的智慧法院建設(shè)過程中已經(jīng)或多或少出現(xiàn)了這樣的偏頗。另一方面，應(yīng)用人工智能對大數(shù)據(jù)進行分析和學習，可以充分掌握社會心理和輿情的變化，對不同群體以及個人的行為進行精準的預(yù)測，這就會使國家對社會的監(jiān)控能力和支配能力大幅度提高。在這種狀況下如果不能相應(yīng)地提高民主問責的水準，權(quán)力濫用的危險也將漸次增加乃至尾大不掉。然而對人工智能輔助的決定進行民主問責，勢必要求對算法的理解和說明，可如前所述往往具有困難。于是，在這個出現(xiàn)了一個算法與問責互相糾纏的悖論。
03 第四次產(chǎn)業(yè)革命與憲法體制創(chuàng)新
1 現(xiàn)代憲法精神與人工智能發(fā)展的現(xiàn)實需求
歐盟通用數(shù)據(jù)保護條例面臨的更大挑戰(zhàn)還來自第四次產(chǎn)業(yè)革命本身，來自對人工智能發(fā)展的強勁需求。按照現(xiàn)代憲法精神強調(diào)隱私權(quán)和個人信息保護，或多或少會引起虛擬空間的割據(jù)和碎片化，妨礙數(shù)據(jù)的大規(guī)模收集和應(yīng)用，從而妨礙以數(shù)據(jù)為養(yǎng)料的人工智能系統(tǒng)以及智慧網(wǎng)絡(luò)化社會的快速成長。站在公共利益或者社會福利的立場上來看，收集更多的數(shù)據(jù)、進一步加強人工智能的預(yù)測力顯然是合乎理性的選項，有助于大幅度提高經(jīng)濟增長的效率，因此有必要通過讓個人分類發(fā)展的“新集體主義”方式來實現(xiàn)整體的最優(yōu)化。但是，如果接受這樣的觀點，那就意味著現(xiàn)代憲法體制的退讓，有可能損害個人自由。
實際上，現(xiàn)代憲法體制也是產(chǎn)業(yè)革命的結(jié)果。如果從這個角度來看，第四次產(chǎn)業(yè)革命應(yīng)該也有可能在相當程度上引發(fā)憲法體制的創(chuàng)新。如果試圖在現(xiàn)代憲法體制下的人權(quán)保障原理與數(shù)字經(jīng)濟的迅猛發(fā)展這兩者之間尋找適當?shù)钠胶恻c，那就需要深入探討某種更適應(yīng)人工智能時代需要的憲法體制，進行法治的范式創(chuàng)新，而不是簡單地按照個人自由主義的標準來限定智慧網(wǎng)絡(luò)化社會的變遷。但是，前面已經(jīng)提到的各種問題又表明，如果不能切實保障個人信息安全和隱私權(quán)，人工智能的發(fā)展就很有可能誤入歧途，破壞“以人為本”的原則、侵犯個體的自由和安全，造成機器官僚主義的冷酷統(tǒng)治和無所不在的恐怖。因此當今憲法秩序演化的基本方向應(yīng)該是把中國憲法第33條第3款“國家尊重和保障人權(quán)”的原理嵌入智慧網(wǎng)絡(luò)之中，達成效率與公正、理性與溫情之間的適當平衡。
2 人工智能時代的社會治理方式創(chuàng)新
怎樣才能達成這樣一種理想的平衡狀態(tài)？在這個方面，所謂以人工智能來監(jiān)控人工智能、通過不同的技術(shù)進行互相制衡是否具有現(xiàn)實可行性？在對新冠病毒疫情進行防控期間，中國廣泛應(yīng)用互聯(lián)網(wǎng)和信息溝通技術(shù)（ICT）進行社會治理，提供了頗有啟迪意義的試行經(jīng)驗和教訓(xùn)。2020年春節(jié)前夕從武漢猛烈沖擊全國各地的新冠病毒肺炎疫情，使得隔離和割據(jù)突然成為一段時期內(nèi)社會日常生活的特征，智慧網(wǎng)絡(luò)化的技術(shù)和平臺在匯集和分配信息、資源以及物資等方面發(fā)揮極其重要的功能。對疫區(qū)旅行者和疑似患者的排查、對隔離人員的監(jiān)控、對救治病例的分析、對疫情發(fā)展的預(yù)測，都需要借助大數(shù)據(jù)和人工智能等科技手段，促進以電子政府和網(wǎng)絡(luò)型政府為特征的國家治理方式創(chuàng)新全面提速。在這里特別值得重視的是區(qū)塊鏈技術(shù)的廣泛應(yīng)用。例如上海市靜安區(qū)臨汾街道根據(jù)電子政府方案，在2020年1月啟動了基于區(qū)塊鏈協(xié)議的社區(qū)治理平臺，推動十五分鐘生活圈內(nèi)的自治，試圖在數(shù)字真實可信的基礎(chǔ)上實現(xiàn)行政活動全程留痕和監(jiān)控以及多方協(xié)同。在新冠病毒疫情防控中，這個平臺又嵌入了預(yù)約登記和購買口罩等功能，顯示了區(qū)塊鏈技術(shù)在分散化、平面化社區(qū)治理方面的優(yōu)勢，體現(xiàn)了“一網(wǎng)通辦”的制度設(shè)計思路。還有北京市的博云視覺科技有限公司開發(fā)的“智慧社區(qū)疫情防控網(wǎng)格化管理平臺”，可以進行人體測溫快速篩查、未戴口罩預(yù)警、陌生人員預(yù)警、進出記錄管控、異常人員聚集預(yù)警、疫情信息采集統(tǒng)計和分析等，以適應(yīng)春節(jié)后返工中社區(qū)的精細治理和可視化服務(wù)。
因為疫情防控的緊急狀態(tài)，幾乎所有城市和鄉(xiāng)村都按下了中止鍵、施行了“空城計”，人人都進入閉門自省的狀態(tài)。這樣的體驗以及由此產(chǎn)生的需求也許會為中國從零開始進行制度的理性設(shè)計提供一個重要的歷史契機。如果說在西歐現(xiàn)代化進程中，“待從頭收拾舊山河”的理性設(shè)計方案表現(xiàn)為關(guān)于人權(quán)保障、法治國家的社會契約論，那么不妨認為在當今中國，這種理性設(shè)計方案主要表現(xiàn)為關(guān)于信息公開、電子政府的互聯(lián)網(wǎng)協(xié)議，可以包括人工智能技術(shù)和區(qū)塊鏈技術(shù)這兩個階段或者層次。如果上述命題真的能夠成立，那么全國停頓就不是多此一舉，李文亮的犧牲也就不會化作無謂的泡影。首先來看基于人工智能技術(shù)運作的電子政府。電子政府的基本目標或者特征是平面分散、互聯(lián)互通、公開透明、數(shù)據(jù)安全，在價值體系上體現(xiàn)為平等、共享、協(xié)同、過程等偏好或者思想取向。不言而喻，通過把互聯(lián)網(wǎng)的各種功能應(yīng)用于行政和政治，政府的定位和作用勢必有所變化，向群眾提供公共服務(wù)的數(shù)量、質(zhì)量、效率以及滿意程度都會顯著提高。
例如東歐的愛沙尼亞的電子政府計劃是以數(shù)字身份證為核心擬訂和實施的，嵌入的芯片里除了持證人的基本信息外，還有兩種證明資料：一種用于認證，另一種用于簽名，憑各自設(shè)定的暗號登陸使用。該證在公民中的普及率達到90%以上，所以大量的行政服務(wù)項目通過數(shù)字身份證來執(zhí)行。公民通過數(shù)字身份證進行在線投票、繳納稅金、享受社保、進行體檢和接受醫(yī)療——所有就診記錄和診斷檔案都可以一證調(diào)閱，并自我決定是否向親屬或醫(yī)生公開。交通和旅行也是一卡通，數(shù)字身份證可以所謂乘車券或支付卡使用。數(shù)字身份證還可以用于網(wǎng)上銀行的開設(shè)和利用、水電煤氣費用的支付、學校教育（選課、提交作業(yè)、管理成績單、與教師聯(lián)系等）以及不動產(chǎn)登記、垃圾處理、環(huán)保等各種公共事業(yè)的服務(wù)項目，這就使行政與物聯(lián)網(wǎng)密切聯(lián)系起來。通過數(shù)字身份證，愛沙尼亞公民可以從全球不同居住地參加選舉投票。通過電子居住制，非公民也可以取得數(shù)字身份證從全球不同國家向愛沙尼亞投資并申請設(shè)立公司。
在中國的新冠病毒疫情防控中，杭州市從2020年2月11日起利用大數(shù)據(jù)和互聯(lián)網(wǎng)技術(shù)推出的“健康碼”，通過不同維度答問打分的方式把居民分成三種類型進行區(qū)別化安排。持綠碼者可以在市內(nèi)自由通行；持黃碼者要進行七天以內(nèi)的集中或居家隔離，在連續(xù)申報打卡七天都正常后轉(zhuǎn)為綠碼；持紅碼者要進行十四天以內(nèi)的集中或居家隔離，連續(xù)申報打卡十四天都正常后轉(zhuǎn)為綠碼。對于填報不實的，都可以通過大數(shù)據(jù)進行鑒別，查實后一律定為紅碼，情節(jié)嚴重的還要采取懲處措施。這也是一種具有特定目的和時效性的數(shù)字化身份證。要使上述機制順利運轉(zhuǎn)，必須確保虛擬空間的安全。為此，愛沙尼亞的經(jīng)驗是建構(gòu)了無鑰簽名的基礎(chǔ)設(shè)施（KSI），使信息的記錄和檢索都可視化，確保政府記錄的正確性以及合規(guī)性。這是借助區(qū)塊鏈協(xié)議保證數(shù)據(jù)真實性的框架，不需要管理者，不需要對密鑰進行管理和更新的手續(xù)，有利于提高行政效率，有利于降低社會管理的成本。所以，接下來我們再來考察基于區(qū)塊鏈技術(shù)運作的電子政府。
3 基于區(qū)塊鏈協(xié)議的電子政府與人權(quán)保障
眾所周知，沒有信賴協(xié)議是信息互聯(lián)網(wǎng)的主要缺點。以比特幣和P2P方式為基礎(chǔ)的電子通貨系統(tǒng)，實際上構(gòu)建了一種分散式信賴網(wǎng)絡(luò)，人們無須第三者或者權(quán)力的介入，通過直接的認證合作就可以達成信賴協(xié)議，也就是說使網(wǎng)絡(luò)本身能保證相互信賴。在這個意義上可以說，區(qū)塊鏈技術(shù)對于社會治理方式具有革命性意義。借助智能技術(shù)運作的電子政府，的確可以運用互聯(lián)網(wǎng)和大數(shù)據(jù)為公民提供大量的方便，但與之相伴的代價是個人隱私的喪失，而隱私正是自由和自治的堡壘。區(qū)塊鏈的本質(zhì)是把個人隱私黑箱化，從而可以抗衡借助智能技術(shù)的外部操作。也就是以區(qū)塊鏈技術(shù)實現(xiàn)隱私的黑箱化，從而制約人工智能技術(shù)，并力爭改變黑箱化的算法。換個角度來看，如果說智能技術(shù)可以讓信息處理系統(tǒng)的終端工作自動化，那么不妨認為區(qū)塊技術(shù)能使系統(tǒng)中樞工作也自動化。因而人工智能技術(shù)與區(qū)塊鏈技術(shù)之間存在著相反相成的關(guān)系。為了確保個人參與同意的計算和共識的達成，區(qū)塊鏈還以挖礦方式提供了充分的誘因，用以解決交易成本問題。在這里，利己的行動本身就可以構(gòu)成公共利益的一部分，具體的智能合約就可以明確各自的權(quán)利義務(wù)。
從新冠病毒疫情在武漢失控的事實可以看到，舊的集權(quán)式治理方式已經(jīng)出現(xiàn)嚴重的功能障礙甚至失靈。在那樣的體制里各級官僚大都眼睛朝上不朝下，滿足于形式主義的官樣文章，出現(xiàn)問題也總是傾向于隱瞞真相和推卸責任。不同部門之間畫地為牢，缺乏信息公開和資源共享，把時間和精力消耗在繁瑣的手續(xù)上。即便急需的疫情防控物資和捐贈醫(yī)藥品也被壟斷流通渠道，無法及時送到最需要的地方，一些荒唐的作秀活動卻浪費了極其寶貴的救護裝備。在封城和隔離的決定做出之后，基層治理機制不能有效發(fā)揮作用甚至出現(xiàn)崩潰，公民的各種訴求得不到必要的回應(yīng)和處理。幸虧電商、物聯(lián)網(wǎng)以及移動通信系統(tǒng)在疫情防控的隔離狀態(tài)發(fā)揮了積極作用。由此也可以證明，通過大數(shù)據(jù)、人工智能以及信息合作提高業(yè)務(wù)效率、在公共服務(wù)中充分利用物聯(lián)網(wǎng)、借助信賴網(wǎng)絡(luò)突破地域和行業(yè)的樊籬等做法是必要的，也是可能的。結(jié)論就是疫情防控的經(jīng)驗已經(jīng)顯示行政和政治的區(qū)塊鏈化勢在必行。
區(qū)塊鏈技術(shù)有可能形成社會治理的“路路通”格局。例如愛沙尼亞的電子政府計劃利用區(qū)塊鏈構(gòu)建了所謂“X-road”的數(shù)據(jù)共享系統(tǒng)，把各種數(shù)據(jù)庫和智慧城市項目融通無礙地聯(lián)結(jié)在一起，使行政服務(wù)和民間服務(wù)能夠互相銜接兼容，極大地提高了公共活動的效率，極大地方便了居民的日常生活和行動。前面提到的數(shù)字身份證系統(tǒng)并不是由國家集中管理，而是分散式的。包括出生證明、戶籍、護照、駕駛證、投票資格等各種公共證書都用加密化的哈希值（聯(lián)想配列）來表示，在區(qū)塊鏈上進行分散管理和使用。在這里，可靠的數(shù)據(jù)安全技術(shù)保障了信息的正確性和私密性；數(shù)據(jù)查閱和更新的履歷是可以確認的，公民可以及時獲悉是誰接觸了自己的個人信息；大量的作業(yè)量是自我完成的，所以可以顯著減少行政成本，同時還可以保證公共證書的正當性。區(qū)塊鏈技術(shù)還可以用于基層選舉。提供參與誘因的挖礦方式，意味著區(qū)塊鏈可以通過制度設(shè)計吸引人們對社會問題產(chǎn)生興趣、發(fā)表意見、根據(jù)共識制定更有說服力和執(zhí)行力的政策。由于電子貨幣的密碼確保不能重復(fù)使用，能夠有效地防止重復(fù)投票行為，所以區(qū)塊鏈技術(shù)可以建構(gòu)透明化的、可靠的選舉系統(tǒng)。通過在線會議、意見廣場等方式，區(qū)塊鏈技術(shù)也可以應(yīng)用于協(xié)商民主，而不限于分散化投票。通過數(shù)據(jù)的可視化、可追蹤性，區(qū)塊鏈技術(shù)還有利于落實問責原則。
總之，人工智能技術(shù)的核心是程序算法，強調(diào)的數(shù)據(jù)匯聚和預(yù)測精確性，側(cè)重于法制的統(tǒng)一化和行政效率；與此相映成趣，區(qū)塊鏈技術(shù)的核心是網(wǎng)絡(luò)協(xié)議，強調(diào)的是管理分散和隱私權(quán)保障，側(cè)重于法制的透明化和網(wǎng)絡(luò)共識。這兩者互相制衡同時又互相補充，有利于電子政府的健全發(fā)展。前面曾經(jīng)指出，以人工智能監(jiān)控人工智能，通過不同技術(shù)進行制衡也許是解決算法黑箱化難題、根據(jù)人工智能時代的現(xiàn)實重構(gòu)憲法體制的一條思路。在這里我們看到，人工智能技術(shù)與區(qū)塊鏈技術(shù)之間相反相成的關(guān)系，為這條思路提供了現(xiàn)實可行的例證。
4 機器人權(quán)與人工智能的責任主體資格
在探討人工智能時代的憲法秩序創(chuàng)新之際，究竟應(yīng)該怎樣定位機器人也是一個很重要的問題。一般而言，生產(chǎn)率提高、經(jīng)濟景氣上揚勢必導(dǎo)致就業(yè)率的攀升。但是，從2000年開始，美國的經(jīng)濟效益越好，雇傭人數(shù)反倒減少，兩者之間的差距不斷擴大。不言而喻，其原因在于機器人取代自然人從事生產(chǎn)活動。根據(jù)MIT和波士頓大學的研究報告，每千名工人擁有的機器人數(shù)量增加1個，就業(yè)率就會下降18-35個百分點、工人薪酬也會下降25-50個百分點。鑒于這種情況，2017年2月17日比爾·蓋茨在接受數(shù)字媒體Quartz采訪時曾經(jīng)提出向機器人課稅的建議，試圖通過再分配的方式解決失業(yè)和社會福利問題。從法理學的角度來看，既然機器人可以成為責任主體，那么當然也應(yīng)享有相應(yīng)的權(quán)利——這正是機器人權(quán)論的主張。賦予智能化機器以法律人格乃至人權(quán)貌似一種迂闊之見，但其實是持之有據(jù)、言之成理的；特別是最近出現(xiàn)了用青蛙細胞生成的“活體機器人（Xenobots）”，作為一種可編程的有機體，使得機器與動物生命之間的界限已經(jīng)非常相對化。隨著醫(yī)療科技的飛速進步，實際上人的身體或臟器的相當部分都可以由人工產(chǎn)品構(gòu)成，人機混合狀態(tài)日益普及，這就使得機器人權(quán)的討論具有越來越強的現(xiàn)實意義。2019年8月，在Youtube網(wǎng)站上發(fā)表視頻的不少人發(fā)現(xiàn)，算法會自動刪除機器人對戰(zhàn)的視頻。這是否構(gòu)成機器人自我認知的征兆？在出現(xiàn)諸如此類的“機器覺醒”現(xiàn)象，特別是出現(xiàn)自律型人工智能之后，機器人的權(quán)利問題其實與動物、胎兒、植物人的權(quán)利問題具有類似性；在機器人的能力超過自然人的情況下，賦權(quán)的理由實際上也就變得更加充分。
一旦承認機器人權(quán)，隨之而來的問題就是如果人工智能具有與人同樣的能力、資格以及精神權(quán)益，中國憲法第33條第2款規(guī)定的法律面前的平等性是否也包括人工智能？鑒于猴子拿起傻瓜相機自拍和人機對話系統(tǒng)的歧視性笑話等實例，人工智能是否也可以享有憲法第35條規(guī)定的言論和表達的自由？現(xiàn)在已經(jīng)有很多自動作曲、自動寫詩、自動繪畫的智能軟件，由此產(chǎn)生的作品能否享有著作權(quán)、權(quán)利主體是誰？能否承認對這類作品的壟斷性保護，如果承認的話保護期間設(shè)定多久為宜？在中國，人工智能在司法和法律服務(wù)方面的應(yīng)用已經(jīng)非常廣泛，并且得到政府的鼎力支持。在現(xiàn)行法律框架下，人工智能代行相當部分的法律業(yè)務(wù)是否違反了法官法、檢察官法以及律師法？如果人工智能可以被賦予法律人格，那么可否也被賦予法官、檢察官以及律師的任職和執(zhí)業(yè)資格呢？如果回答是肯定的，就必須考慮設(shè)定什么樣的準入門檻。關(guān)于人工智能系統(tǒng)的法律人格以及自然人和機器人在人格上的平等性，是數(shù)字化時代憲法學也有必要認真討論一個重要問題。
04 結(jié)語：在智慧網(wǎng)絡(luò)中尋找新的平衡點和組合方式
在上海召開的2019年世界人工智能大會法治論壇，通過了《人工智能安全與法治導(dǎo)則》，從算法安全、數(shù)據(jù)安全、知識產(chǎn)權(quán)、社會就業(yè)和產(chǎn)品法律責任這五個方面明確了相關(guān)的原則、政策和法律制度安排，體現(xiàn)了硬法與軟法相結(jié)合的特征。關(guān)于算法的可理解性和可說明性，導(dǎo)則強調(diào)對算法進行技術(shù)評估以及算法的技術(shù)倫理，要求構(gòu)建軟件質(zhì)量和算法安全的檢測體系。導(dǎo)則鼓勵人工智能數(shù)據(jù)開放性保護，還對數(shù)據(jù)隱私問題給予特別關(guān)注，強調(diào)對采集和使用敏感個人數(shù)據(jù)的人工智能企業(yè)或行業(yè)加強法律的和行政的監(jiān)管。在這里，不是像歐盟通用數(shù)據(jù)保護條例那樣賦予數(shù)據(jù)主體提出異議、進行抵制的自由權(quán)，而是進一步加強法律和行政的監(jiān)管，體現(xiàn)了中國傳統(tǒng)治理方式的特征以及憲法觀的差異。導(dǎo)則也注意到關(guān)于機器人納稅之議，提出了面向人工智能開展收入調(diào)節(jié)，提高社會二次分配的合理性和精準性的命題，但沒有把機器人作為責任主體。中國倡議的做法是科學分配人工智能侵權(quán)的法律責任，要求人工智能設(shè)計者、生產(chǎn)者、運營者、使用者承擔法律主體責任，并按照過錯程度進行分擔。在這里可以發(fā)現(xiàn)，導(dǎo)則還沒有明確地提示處理各種規(guī)范沖突的元規(guī)則以及對價值進行排序的標準，這是一個缺憾。
人工智能在本質(zhì)上是規(guī)則嵌入的系統(tǒng)，可以形成硬法的支配、創(chuàng)造全程留痕的條件，因而有利于加強對公權(quán)的制約。在這個意義上，人工智能可以貫徹現(xiàn)代憲法的精神。但是，人工智能的能力提升有待于盡量增大數(shù)據(jù)的規(guī)模，勢必突破圍繞私權(quán)的屏障壁壘，在相當程度上侵蝕隱私和個人尊嚴，甚至動搖自由的根基。另外，以對大數(shù)據(jù)的機器學習為背景，尤其是在智慧網(wǎng)絡(luò)化的社會條件下，算法的理解和說明將變得很困難，并自然導(dǎo)向算法黑箱化以及算法獨裁。算法黑箱化實際上會在不同程度上妨礙對權(quán)力問責，同時也會助長回避責任和轉(zhuǎn)嫁責任的不良傾向。數(shù)據(jù)偏誤和算法歧視還會招致對現(xiàn)代憲法原則的抵制，削弱對公民基本權(quán)利的保障。
如果希望發(fā)展人工智能、提高其預(yù)測能力，同時又尊重和保障人權(quán)，就需要在算法與憲法之間達成適當?shù)钠胶?，從而推動憲法理論和法治范式的?chuàng)新。新型憲法觀樹立的一個關(guān)鍵是形成人工智能技術(shù)與區(qū)塊鏈技術(shù)之間制衡的機制并不斷尋求科學理性、經(jīng)濟效率與人格尊嚴、社會公平之間的更優(yōu)乃至最優(yōu)的組合方式。
原文刊載于《南大法學》2020年1月刊