【作者】季衛(wèi)東
【內(nèi)容提要】
*季衛(wèi)東
上海交通大學(xué)文科資深教授
中國法與社會(huì)研究院院長
摘要：在數(shù)據(jù)驅(qū)動(dòng)的時(shí)代,歐盟始終強(qiáng)調(diào)信息自決和個(gè)人隱私保護(hù)的基本權(quán)利,也非常重視數(shù)據(jù)主權(quán)問題,但這種憲法性規(guī)范不能在私人主體之間的糾紛中強(qiáng)制執(zhí)行。中國主要從民法以及行政舉措的視角來加強(qiáng)對(duì)隱私、信息安全及人格利益的綜合保護(hù)。關(guān)于"數(shù)據(jù)保護(hù)權(quán)"的中國法律規(guī)范主要在公民個(gè)人、集體以及企業(yè)之間強(qiáng)制執(zhí)行,但很少針對(duì)政府。我國《民法典》并沒有創(chuàng)設(shè)"數(shù)據(jù)財(cái)產(chǎn)權(quán)",我國《數(shù)據(jù)安全法》卻承認(rèn)數(shù)據(jù)市場,試圖通過對(duì)數(shù)據(jù)進(jìn)行評(píng)價(jià)和共享的程序?qū)?shù)據(jù)財(cái)產(chǎn)權(quán)進(jìn)行債權(quán)式的保護(hù)。完善數(shù)據(jù)財(cái)產(chǎn)權(quán)的實(shí)體規(guī)范,進(jìn)而將之提升至基本權(quán)利的高度、強(qiáng)調(diào)數(shù)字人權(quán)的保障,是一項(xiàng)很重要并具有迫切性的立法課題。"數(shù)據(jù)公平使用"的立法原則在個(gè)人權(quán)利保護(hù)、數(shù)字經(jīng)濟(jì)發(fā)展以及數(shù)據(jù)利潤共享之間達(dá)成適當(dāng)?shù)钠胶狻Ｒ坏╆P(guān)于數(shù)據(jù)保護(hù)權(quán)和數(shù)據(jù)財(cái)產(chǎn)權(quán)的憲法框架得以確立,數(shù)字經(jīng)濟(jì)立法的空間將可能適當(dāng)拓展。在這里,中國可以與歐盟相向而行、互相借鑒。新時(shí)代憲法秩序變遷的方向就是建立和健全技術(shù)的分權(quán)制衡機(jī)制,確立新型的"數(shù)字化監(jiān)察權(quán)"。
一、引言：數(shù)字覆蓋、結(jié)構(gòu)轉(zhuǎn)換以及權(quán)利創(chuàng)新
2013年首先由德國提出的“產(chǎn)業(yè)革命4.0版”概念，有一個(gè)非常重要的屬性，這就是通過數(shù)字化的信息溝通技術(shù)（ICT），使物聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能形成一個(gè)有效互補(bǔ)的支撐關(guān)系。2015年國務(wù)院頒布《中國制造2025》規(guī)劃，同樣也是以數(shù)據(jù)驅(qū)動(dòng)、智能生產(chǎn)、萬物聯(lián)通為基本目標(biāo)。根據(jù)IHS Technology（芯智訊）的統(tǒng)計(jì)和推測，2015年全球通過互聯(lián)網(wǎng)連接在一起的裝置共有154億個(gè)，到2020年將增至304億個(gè)。在這里，裝置不僅指電腦和智能手機(jī)，而且包括汽車、家用電器、產(chǎn)業(yè)設(shè)備等不具備通信功能的機(jī)器。不言而喻，網(wǎng)絡(luò)空間中的各種活動(dòng)和感應(yīng)會(huì)不斷產(chǎn)生大量的數(shù)據(jù)，這類大數(shù)據(jù)的分析和應(yīng)用需要借助人工智能；反之，人工智能本身又使物聯(lián)網(wǎng)能夠進(jìn)一步發(fā)展，同時(shí)不斷產(chǎn)生大數(shù)據(jù)和提高大數(shù)據(jù)的質(zhì)量——這就是數(shù)字空間里普遍存在的“三位一體”關(guān)系。這種互動(dòng)過程使社會(huì)逐步形成一個(gè)信息和實(shí)體交融的系統(tǒng)，也就是智能融入物理世界的狀態(tài)。
在物聯(lián)網(wǎng)的世界，物品借助感應(yīng)器自動(dòng)收集的信息也可以通過互聯(lián)網(wǎng)加以利用，這意味著人工智能將不通過人類而直接影響現(xiàn)實(shí)環(huán)境。目前，人工智能從機(jī)器學(xué)習(xí)到深度學(xué)習(xí)，實(shí)現(xiàn)了從量變到質(zhì)變的飛躍，導(dǎo)致了新一波的人工智能熱。人工智能在過去十幾年、二十年左右的時(shí)間里飛速發(fā)展，正在引起產(chǎn)業(yè)模式乃至社會(huì)結(jié)構(gòu)的大轉(zhuǎn)型。2000年時(shí)人工智能還屬于一種他律系統(tǒng)，強(qiáng)調(diào)的是邏輯演算；但2012年之后，深度學(xué)習(xí)功能出現(xiàn)和加強(qiáng)之后，人工智能逐步演變成一種自律系統(tǒng)——從事實(shí)、數(shù)據(jù)中進(jìn)行歸納，而不僅僅按照人類給出的指令或程序運(yùn)算。這就勢必帶來失控的風(fēng)險(xiǎn)。此外，經(jīng)濟(jì)和社會(huì)的許多方面都在使用人工智能，各種人工智能系統(tǒng)的目標(biāo)卻并不一樣，有時(shí)甚至互相矛盾，在智能物聯(lián)網(wǎng)（AIoT）中也可能引起混沌現(xiàn)象。伴隨著人工智能的發(fā)達(dá)，人們所面對(duì)的當(dāng)今社會(huì)呈現(xiàn)以下特征。
首先，傳感器無所不在，特別是二維碼移動(dòng)支付和刷臉通關(guān)的普及，使得當(dāng)今生活世界的幾乎每一個(gè)角落都被轉(zhuǎn)化成數(shù)字化表現(xiàn)形式，積累為各種形態(tài)的大數(shù)據(jù)。疫情防控進(jìn)一步提升了社會(huì)的數(shù)字覆蓋程度，在很多城市甚至達(dá)到了數(shù)字全覆蓋，不只是行蹤信息、社交信息，連體內(nèi)生理信息和醫(yī)療病歷信息都可以通過“健康碼”等系統(tǒng)或網(wǎng)絡(luò)式治理平臺(tái)進(jìn)行分析、監(jiān)控以及預(yù)測。通過對(duì)大數(shù)據(jù)的人工智能分析，社會(huì)的透明度大大提高了，幾乎再無真正的隱私可言。然而，對(duì)大數(shù)據(jù)進(jìn)行處理、分析以及預(yù)測的人工智能運(yùn)作卻越來越復(fù)雜，特別是機(jī)器學(xué)習(xí)算法以及具有深度學(xué)習(xí)功能的算法越來越讓人難以理解、難以說明。這就是所謂“算法的黑箱化”，使人工智能實(shí)際上變得不可解釋、難以控制，當(dāng)人工智能系統(tǒng)用于決策時(shí)也因而會(huì)使問責(zé)機(jī)制變得名存實(shí)亡。由此可見，社會(huì)的透明化與算法的黑箱化，是考慮經(jīng)濟(jì)和社會(huì)的智能化轉(zhuǎn)型時(shí)必須注意的一對(duì)基本矛盾。
其次，大數(shù)據(jù)能產(chǎn)生經(jīng)濟(jì)價(jià)值，甚至成為企業(yè)和社會(huì)的驅(qū)動(dòng)力量。阿里巴巴之所以強(qiáng)有力，一個(gè)重要原因就是通過電商掌握了近十億人口在各種應(yīng)用場景的行蹤數(shù)據(jù)、消費(fèi)取向數(shù)據(jù)，使得生產(chǎn)和銷售的計(jì)劃和實(shí)施都變得更加精準(zhǔn)，在相當(dāng)程度上可以預(yù)測和影響人們的未來。因此，馬云曾經(jīng)說數(shù)據(jù)就是21世紀(jì)的石油。這意味著數(shù)據(jù)是能源、是生產(chǎn)資料、是交易通貨、是企業(yè)的利器，數(shù)據(jù)會(huì)產(chǎn)生利潤和效益。值得注意的是，中國在數(shù)據(jù)收集和利用方面具有獨(dú)特的優(yōu)勢。例如，中國公民的價(jià)值觀和權(quán)利意識(shí)與歐美人有顯著的不同，對(duì)人工智能持比較樂觀和友好的態(tài)度，也沒有很強(qiáng)的隱私觀念；為了生活的便捷、社區(qū)的安全以及防疫的需要，對(duì)各種數(shù)據(jù)的采集大都持支持的態(tài)度，至少?zèng)]有特別明顯的抵觸情緒。因此，大數(shù)據(jù)產(chǎn)業(yè)在中國更容易發(fā)達(dá)，人工智能也因富有數(shù)據(jù)養(yǎng)料而迅速提升水平。在當(dāng)前體制下，中國優(yōu)質(zhì)數(shù)據(jù)的百分之七十到百分之八十都是由國有企業(yè)或者國家機(jī)構(gòu)掌握的。其好處是可以打破不同行業(yè)、不同利益集團(tuán)的壁壘，使數(shù)據(jù)的多維度利用得到充分實(shí)現(xiàn)。也就是說，中國的數(shù)字空間沒有碎片化，沒有導(dǎo)致人工智能的發(fā)展遭遇太多的人為障礙。不過，這種狀態(tài)也存在數(shù)據(jù)安全和數(shù)據(jù)倫理上的隱患，如果缺乏相應(yīng)的規(guī)范制約就有可能極大地削減個(gè)人自由度。
再次，數(shù)據(jù)的本質(zhì)是信息，而信息的特點(diǎn)是流動(dòng)性。因而數(shù)據(jù)主體的界定、數(shù)據(jù)權(quán)利的保護(hù)也就比較難，尤其很難以某種絕對(duì)化的方式進(jìn)行界定和保護(hù)。歐盟曾經(jīng)制定過關(guān)于數(shù)據(jù)庫權(quán)利的法律，試圖加強(qiáng)對(duì)數(shù)據(jù)的排他性保護(hù)，結(jié)果失敗了。失敗的證據(jù)之一就是在歐洲沒有出現(xiàn)大規(guī)模的數(shù)據(jù)產(chǎn)業(yè)、沒有出現(xiàn)在國際社會(huì)具有影響力的巨型網(wǎng)絡(luò)公司或數(shù)字經(jīng)濟(jì)平臺(tái)。物聯(lián)網(wǎng)、大數(shù)據(jù)及人工智能結(jié)合起來導(dǎo)致社會(huì)發(fā)生的一種也與流動(dòng)性相關(guān)的深刻變化，是市場交易的形態(tài)從物品轉(zhuǎn)向服務(wù)。人們都知道，現(xiàn)代法律體系的本質(zhì)是物品的所有、利用、處分以及交易，其基礎(chǔ)是物權(quán)，在意識(shí)形態(tài)中還表現(xiàn)為所有制。的確，迄今為止對(duì)個(gè)人或企業(yè)而言，財(cái)富或物品的占有具有非常重要的意義。然而，進(jìn)入智能網(wǎng)絡(luò)化時(shí)代后，服務(wù)變成了更重要的交易形態(tài)。例如，現(xiàn)在擁有光碟及其播放機(jī)變得不再那么重要，因?yàn)榭梢噪S時(shí)上網(wǎng)付費(fèi)下載和收聽收看有關(guān)的音樂或影視劇，質(zhì)量更好，也更方便。
最后，以智能物聯(lián)網(wǎng)為基礎(chǔ)的數(shù)據(jù)空間對(duì)法與社會(huì)的影響不限于改變了作為秩序基石的物權(quán)的結(jié)構(gòu)和功能，而是還改變了規(guī)范形態(tài)本身。二十世紀(jì)九十年代中期以來，很多專家已經(jīng)指出代碼取代法律、代碼即法律的趨勢。本來法律上已經(jīng)明文規(guī)定的權(quán)利，技術(shù)性規(guī)格和代碼的設(shè)置就有可能導(dǎo)致它們沒有辦法行使，或者不得不改變行使的方式和內(nèi)容。比如說DVD復(fù)制是很方便、很常見的行為，但是為了保護(hù)知識(shí)產(chǎn)權(quán)，避免人們不斷對(duì)某個(gè)作品進(jìn)行DVD復(fù)制乃至牟利，有關(guān)行業(yè)制定了新的技術(shù)標(biāo)準(zhǔn)，通過代碼使DVD的復(fù)制次數(shù)只限于兩次到三次，即限于家庭內(nèi)的消費(fèi)。不言而喻，在這里，技術(shù)代碼實(shí)際上取代法律發(fā)揮了行為規(guī)范的作用。在這個(gè)意義上可以說，人工智能可謂一種規(guī)制嵌入系統(tǒng)，有利于約束效力的剛性化，也有利于借助技術(shù)手段加強(qiáng)社會(huì)的守法精神。然而，也要注意，沒有立法權(quán)的機(jī)構(gòu)或企業(yè)可以通過代碼框架或算法的設(shè)計(jì)繞開民主程序來修改法律、創(chuàng)制法律，或多或少有可能在數(shù)據(jù)空間里開拓出一片自由的飛地，帶來潛在的不確定性。因此，法律還應(yīng)該反過來規(guī)制代碼，這樣就形成一種法律與代碼雙行的格局，導(dǎo)致規(guī)范多元化。
從上述社會(huì)特征中可以發(fā)現(xiàn)法制變遷、權(quán)利創(chuàng)新的一些重要契機(jī)。例如，社會(huì)透明化與算法黑箱化的基本矛盾，意味著有必要從制度層面加強(qiáng)對(duì)個(gè)人數(shù)據(jù)安全和隱私的保護(hù)，防止監(jiān)控過度，并且應(yīng)該從公民基本權(quán)利的高度來理解個(gè)人信息的收集、分析和應(yīng)用。與此同時(shí)，要強(qiáng)調(diào)算法的公開透明、可解釋性、可理解性，使個(gè)人享有抵御算法歧視的權(quán)利，并確保對(duì)現(xiàn)代法治至關(guān)重要的問責(zé)機(jī)制不因人工智能輔助決策而遭到瓦解。例如，數(shù)據(jù)的經(jīng)濟(jì)價(jià)值，意味著數(shù)據(jù)權(quán)屬關(guān)系的明晰化、利益分配的合理性和公正性都應(yīng)提上議事日程，并考慮適當(dāng)?shù)闹贫仍O(shè)計(jì)方案和權(quán)利認(rèn)定程序，還要在數(shù)字經(jīng)濟(jì)發(fā)展與個(gè)人權(quán)利保障之間達(dá)成適當(dāng)?shù)钠胶?，并為?shù)據(jù)的商業(yè)利用劃出一條清楚的倫理底線。另外，隨著民商事法律體系的基石從物品轉(zhuǎn)向服務(wù)，權(quán)利觀當(dāng)然也從所有者的視角轉(zhuǎn)向消費(fèi)者的視角，能否確立消費(fèi)者主權(quán)的理念、能否使服務(wù)評(píng)價(jià)產(chǎn)生規(guī)范效力就成為重要的法學(xué)課題。在代碼即法律的狀況下，如何防止機(jī)器官僚主義或技術(shù)至上主義壓抑個(gè)人權(quán)利、公民怎樣才能切實(shí)維護(hù)自己的合法權(quán)益、在代碼框架下能否適當(dāng)進(jìn)行權(quán)利的創(chuàng)造和認(rèn)定、如何對(duì)代碼進(jìn)行監(jiān)控等一系列問題也應(yīng)納入探討的范圍。
二、關(guān)于數(shù)據(jù)保護(hù)權(quán)及其價(jià)值前提的國際共識(shí)
在人工智能用于數(shù)據(jù)分析而導(dǎo)致社會(huì)結(jié)構(gòu)轉(zhuǎn)型的過程中，有兩種法律現(xiàn)象值得關(guān)注和深入研究。
一種是大數(shù)據(jù)預(yù)測式警務(wù)系統(tǒng)。通過對(duì)大數(shù)據(jù)的機(jī)器學(xué)習(xí)，人工智能可以精準(zhǔn)把握行為方式及其趨勢，有助于刑事案件的偵查和證明，也有助于對(duì)城市犯罪進(jìn)行預(yù)防。5G通信系統(tǒng)使大數(shù)據(jù)和人工智能的應(yīng)用范圍更廣，技術(shù)安裝和操作更便捷。這種預(yù)測式警務(wù)起源于洛杉磯，然后普及到美國、歐洲、亞洲的一些城市，在中國也有廣泛的應(yīng)用。預(yù)測式警務(wù)的根據(jù)是過去的行蹤以及社會(huì)狀況的大數(shù)據(jù)，在數(shù)據(jù)處理之際必須按照一定指標(biāo)對(duì)個(gè)人進(jìn)行分類，實(shí)際上就是給各個(gè)公民貼上標(biāo)簽進(jìn)行區(qū)別對(duì)待。在分類、貼標(biāo)簽以及重點(diǎn)監(jiān)控的操作中很容易受到大數(shù)據(jù)內(nèi)在的系統(tǒng)性偏誤的影響，出現(xiàn)算法歧視的問題。一旦根據(jù)某些指標(biāo)和標(biāo)簽預(yù)測某部分人存在較強(qiáng)的犯罪傾向，人工智能系統(tǒng)就會(huì)促使警察部門加強(qiáng)對(duì)他們的監(jiān)控，實(shí)際上就給予了不同的法律待遇，有違法律面前人人平等的原則?，F(xiàn)代法治國家在刑事領(lǐng)域特別強(qiáng)調(diào)無罪推定原則以防止冤枉無辜，但預(yù)測式警務(wù)針對(duì)特定人群提前采取監(jiān)控和防范的舉措，容易產(chǎn)生疑人偷斧的效應(yīng)，造成故入人罪的錯(cuò)誤，在一定意義上也可以說，對(duì)他們的刑事追責(zé)其實(shí)是以有罪推定為前提的。
另一種是聯(lián)合信用懲戒系統(tǒng)。為了改進(jìn)社會(huì)信任度、懲戒各種失信行為，近年來中國興起了信用評(píng)價(jià)活動(dòng)。其中一個(gè)有代表性的實(shí)例就是芝麻信用的打分和等級(jí)化，由螞蟻金服根據(jù)身份地位、信用履歷、履約能力、行為偏好、人脈關(guān)系等因素和淘寶、天貓、支付寶等平臺(tái)積累的大數(shù)據(jù)綜合計(jì)算，以350分為下限、950分為上限。具體的等級(jí)劃分如下：350分到550分屬于信用較差，550分到650分屬于信用一般，650分到750分為信用良好，750分以上是信用優(yōu)秀。在芝麻信用系統(tǒng)里，信用分是與個(gè)人享有的權(quán)利掛鉤的，例如信用較差的只能使用支付寶的快捷支付轉(zhuǎn)賬、繳納水電費(fèi)等初步功能，信用良好的則可以享有免租車押金、免租房押金等優(yōu)惠。一般而言，芝麻信用分超過800分的屬于信用極好的群體，可以享受信用醫(yī)療、快速退稅、無抵押借貸等特權(quán)，還可以在申請部分國家簽證時(shí)不必提交資產(chǎn)證明、在職證明、戶口本等各種資料。類似的信用評(píng)分做法在歐美金融界也已悄然流行了一段時(shí)間。這種信用評(píng)分本來以激勵(lì)為宗旨，但換個(gè)角度來看也有懲戒效果。所以中國的行政執(zhí)法部門和司法機(jī)關(guān)為了提升債權(quán)回收、債務(wù)履行的效率，開始與芝麻信用評(píng)分系統(tǒng)開展合作。例如最高人民法院系統(tǒng)在2015年與芝麻信用簽署了對(duì)失信被執(zhí)行人信用懲戒備忘錄，全面限制相關(guān)人員的消費(fèi)，以解決長期以來的“執(zhí)行難”問題。然而，從正義和法律的角度來看，各種信用打分（特別是聯(lián)合信用懲戒系統(tǒng)）也存在一些隱患，其中最大的問題是把人分類并貼上標(biāo)簽，容易造成一個(gè)差別化、等級(jí)化的“打分社會(huì)”，助長某些權(quán)利上的歧視，甚至形成所謂“自動(dòng)不平等”和“數(shù)字濟(jì)貧院”的事態(tài)。
上述兩種常見的現(xiàn)象說明，人工智能的算法公正以及數(shù)據(jù)倫理的確是當(dāng)今法學(xué)正面臨的重大課題。在人工智能治理方面，2016年構(gòu)成一個(gè)重要的界標(biāo)。對(duì)于從那時(shí)起國際社會(huì)形成相關(guān)原則和規(guī)則的主要?jiǎng)酉?，筆者曾經(jīng)在一篇論文中做過如下概述。2016年4月，歐洲議會(huì)法務(wù)委員會(huì)召開了關(guān)于機(jī)器人和人工智能的法律和倫理問題的聽證會(huì)，并在5月公布了與機(jī)器人相關(guān)的民事法律規(guī)則的報(bào)告書草案。2017年2月歐洲議會(huì)通過《向歐洲委員會(huì)提出的關(guān)于涉及機(jī)器人民事法律規(guī)則的提案》，建議設(shè)立專門的歐盟機(jī)構(gòu)、采納智慧機(jī)器人登記制、明確嚴(yán)格的損害賠償責(zé)任、保障知識(shí)產(chǎn)權(quán)等，要求歐洲委員會(huì)制定相關(guān)的歐盟法律。這個(gè)提案還建議確立機(jī)器人研發(fā)者的倫理行動(dòng)規(guī)范，其中包括尊重基本人權(quán)、預(yù)防原則、包容性、問責(zé)、安全性、可追溯性、隱私權(quán)保護(hù)、效益最大化和危害最小化等內(nèi)容。2018年5月25日歐盟開始施行一般數(shù)據(jù)保護(hù)條例（GDPR），要求人工智能研發(fā)涉及個(gè)人信息處理時(shí)要通知本人，受到影響的個(gè)人有權(quán)獲得解釋。其中有些舉措比美國更加嚴(yán)格，對(duì)違反該法規(guī)的企業(yè)采取重罰政策。這項(xiàng)法律對(duì)數(shù)據(jù)向其他國家的轉(zhuǎn)移業(yè)務(wù)也生效。2018年12月歐盟委員會(huì)AI高級(jí)專家組發(fā)布了《人工智能開發(fā)和適用倫理指南（草案）》，以《歐盟基本權(quán)利憲章》為基準(zhǔn)，力爭形成值得信賴的、負(fù)責(zé)任并沒有偏見的人工智能，為此提出了七條關(guān)鍵要求。歐盟人工智能倫理指南的七條關(guān)鍵要求是人的管理和監(jiān)督、穩(wěn)健性和安全性、隱私和數(shù)據(jù)管理、透明度、多樣性和公平性以及非歧視性、社會(huì)和環(huán)境福祉、問責(zé)制。這個(gè)倫理指南將從2019年夏季開始進(jìn)入試行，所有企業(yè)、政府部門以及社會(huì)團(tuán)體都可以參加歐洲人工智能聯(lián)盟（European AI Alliance），通過共同遵循倫理指南在數(shù)據(jù)、算法、技術(shù)等方面推進(jìn)伙伴關(guān)系。筆者于本文中補(bǔ)充的新信息是，2019年4月歐盟高級(jí)專家組發(fā)布《可信任人工智能指南》，把合法性、倫理性、魯棒性作為可信任人工智能的構(gòu)成元素，并提出了根據(jù)基本原則、主要要求而制作的評(píng)估項(xiàng)目清單，2020年開始對(duì)GDPR的某些過時(shí)的內(nèi)容進(jìn)行重新審視并起草了新的法案。
與歐盟幾乎同步，美國政府從2016年5月開始正式研討人工智能的法律、倫理以及政策等方面的問題，為決策進(jìn)行準(zhǔn)備。當(dāng)年10月白宮發(fā)表了題為《為人工智能的未來做準(zhǔn)備》的報(bào)告書，提出人工智能的相關(guān)系統(tǒng)必須可控、公開透明可理解、有效發(fā)揮功能、與人類的價(jià)值和愿望一致等原則。與此同時(shí)，國家科學(xué)技術(shù)會(huì)議網(wǎng)絡(luò)和信息技術(shù)研究開發(fā)小委員會(huì)還發(fā)表了關(guān)于運(yùn)用聯(lián)邦政府預(yù)算研究人工智能的方針《美國人工智能研究開發(fā)戰(zhàn)略計(jì)劃》，提出了副作用最小化的要求。2019年6月，美國國家科學(xué)技術(shù)理事會(huì)發(fā)布了這項(xiàng)戰(zhàn)略計(jì)劃，特別強(qiáng)調(diào)要提高人工智能系統(tǒng)的公平、透明度以及問責(zé)制。然而，在立法方面，美國沒有采取統(tǒng)一方案，由各州酌情自行其是，為立法的社會(huì)實(shí)驗(yàn)以及企業(yè)、行業(yè)的自治和創(chuàng)新留下了較大空間。由亞馬遜、DeepMmd、谷歌、臉書、IBM、微軟等巨型網(wǎng)絡(luò)平臺(tái)公司發(fā)起，歐美產(chǎn)業(yè)界在2016年9月還締結(jié)了關(guān)于人工智能的伙伴關(guān)系，旨在構(gòu)建一個(gè)研究和討論人工智能技術(shù)改進(jìn)和社會(huì)影響的開放性平臺(tái)，并發(fā)表了關(guān)于確保社會(huì)責(zé)任、采取防護(hù)措施等八項(xiàng)信條。來自不同機(jī)構(gòu)和學(xué)科的專家也按照人工智能“可接受、負(fù)責(zé)任”（Acceptable Intelligence with Responsibility）的理念結(jié)成倫理專題社群，進(jìn)行關(guān)于失控風(fēng)險(xiǎn)的腳本分析并提出對(duì)策建議。
日本總務(wù)省信息通訊政策研究所通過系列研討會(huì)，在2016年10月制定了《人工智能開發(fā)指針方案（征求意見稿）》，經(jīng)過討論修改，在2017年7月正式公布《為國際討論而作的人工智能開發(fā)指針方案》。日本方案的基本宗旨是：盡管人工智能的技術(shù)創(chuàng)新和互聯(lián)網(wǎng)化有望給經(jīng)濟(jì)和社會(huì)生活帶來各種各樣的效益，但也存在黑箱化和失控的風(fēng)險(xiǎn)。人工智能是跨越國界互聯(lián)互通的，因此相關(guān)的效益和風(fēng)險(xiǎn)也勢必跨越國界產(chǎn)生連鎖反應(yīng)。在這個(gè)意義上，智網(wǎng)社會(huì)的治理不可能局限在一國范圍內(nèi)，而應(yīng)該形成全球化的治理框架。為此，有必要通過開放式討論在利益相關(guān)者中凝聚國際共識(shí)。在人工智能研發(fā)的初期階段，通過立法來進(jìn)行規(guī)制有可能導(dǎo)致創(chuàng)新活動(dòng)的萎縮，因此對(duì)剛性規(guī)范的制定應(yīng)持慎重態(tài)度，不妨更多地借助“軟法”等非正式的有序化機(jī)制。日本的人工智能開發(fā)指針方案提出了五大理念：（1）人通過與人工智能網(wǎng)絡(luò)共生而享受其恩惠，并建立一個(gè)尊重人的尊嚴(yán)和個(gè)體自主性的“以人為本”的社會(huì)；（2）利益相關(guān)者應(yīng)該對(duì)作為非約束性軟法的指針及其最佳實(shí)踐經(jīng)驗(yàn)進(jìn)行國際共享；（3）應(yīng)該通過創(chuàng)新的、開放式的研發(fā)活動(dòng)和公平競爭增進(jìn)社會(huì)效益，在尊重學(xué)術(shù)自由等民主主義社會(huì)價(jià)值的同時(shí)防范風(fēng)險(xiǎn)，確保效益和風(fēng)險(xiǎn)的適當(dāng)平衡；（4）堅(jiān)持技術(shù)的中立性，注意不給開發(fā)者造成過度負(fù)擔(dān)；（5）對(duì)指針方案的內(nèi)容不斷斟酌，根據(jù)需要靈活進(jìn)行修改。
在中國，從2017年國務(wù)院頒布的《中國新一代人工智能發(fā)展規(guī)劃》可以看出，關(guān)于數(shù)字化社會(huì)秩序構(gòu)建的基本理念、主要方法、立法重點(diǎn)，有關(guān)表述都是非常清晰的。該規(guī)劃指出有必要積極參與人工智能全球治理，加強(qiáng)機(jī)器人異化和安全監(jiān)管等人工智能重大國際共性問題研究，深化在人工智能法律法規(guī)、國際規(guī)則等方面的國際合作，共同應(yīng)對(duì)全球性挑戰(zhàn)，并且在全球范圍內(nèi)優(yōu)化配置創(chuàng)新資源。特別是該規(guī)劃關(guān)于人工智能治理的九條原則，即共享互信原則、個(gè)體尊嚴(yán)原則、民主參與原則、國際合作原則、相機(jī)治理原則、公開透明原則、雙重規(guī)制原則、追蹤制裁原則、預(yù)防響應(yīng)原則，都是與國際接軌的。該規(guī)劃也有一些中國特色，比如，第五條關(guān)于相機(jī)而動(dòng)的治理，與網(wǎng)絡(luò)社會(huì)的特征相吻合，也反映了中國傳統(tǒng)治理方式的影響；又如，其中的雙重規(guī)制原則，也體現(xiàn)了中國行政主導(dǎo)、綜合治理的特色。2019年，國家新一代人工智能治理專業(yè)委員會(huì)制定了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，明確提出了八條基本原則，即和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理。其中特別值得注意的是責(zé)任分擔(dān)和共擔(dān)的方式以及對(duì)敏捷治理的要求。實(shí)際上，無論是數(shù)據(jù)治理，還是算法治理，都包括制度治理與技術(shù)治理這兩種不同的方式或者層面。制度治理主要表現(xiàn)為法律、法規(guī)、標(biāo)準(zhǔn)、指南、政策以及倫理規(guī)則等，既有硬法又有軟法。有必要指出，2019年世界人工智能大會(huì)法治論壇上提出的法治導(dǎo)則，把算法納入專利保護(hù)的范圍，這體現(xiàn)了中國制度治理的重要成果；另外，關(guān)于人工智能侵權(quán)的責(zé)任，強(qiáng)調(diào)根據(jù)過錯(cuò)程度進(jìn)行分擔(dān)，也具有鮮明的中國特色。技術(shù)治理則主要表現(xiàn)為人工智能操作中的技術(shù)細(xì)則以及系統(tǒng)日志、記錄軟硬件的情況、監(jiān)督數(shù)據(jù)的收集等，還包括同態(tài)加密、安全多方計(jì)算、聯(lián)邦學(xué)習(xí)、可信計(jì)算等隱私增強(qiáng)技術(shù)（PETs）的采用。制度治理和技術(shù)治理的這種耦合是理解人工智能治理規(guī)則體系的重要視角。
綜上所述，2016年以后的國際社會(huì)，就人工智能治理以及數(shù)字權(quán)利保護(hù)達(dá)成的基本共識(shí)如下。（1）對(duì)國際通用的指針、標(biāo)準(zhǔn)等采取合作態(tài)度。其包括確保數(shù)據(jù)空間互聯(lián)互通，必須共有相關(guān)信息，參照國際標(biāo)準(zhǔn)和規(guī)格進(jìn)行人工智能系統(tǒng)及算法的設(shè)計(jì)，實(shí)現(xiàn)數(shù)據(jù)格式的標(biāo)準(zhǔn)化，公開應(yīng)用程序編程接口以及協(xié)議、揭示知識(shí)產(chǎn)權(quán)的特許合同條件等。（2）實(shí)現(xiàn)技術(shù)的中立性以及透明性。為此需要實(shí)現(xiàn)人工智能系統(tǒng)輸入和輸出的檢驗(yàn)可能性，對(duì)演算結(jié)果要履行說明義務(wù)。（3）實(shí)現(xiàn)人工智能的可控性。應(yīng)該由其他人工智能系統(tǒng)進(jìn)行監(jiān)視和警告，實(shí)現(xiàn)技術(shù)與技術(shù)的制衡，并為人工智能系統(tǒng)的停止、網(wǎng)絡(luò)的切斷和修理預(yù)先做好充分的準(zhǔn)備。（4）優(yōu)先保護(hù)人的安全。算法設(shè)計(jì)應(yīng)該堅(jiān)持的價(jià)值優(yōu)先順位為生命、身體、財(cái)產(chǎn)。對(duì)于數(shù)據(jù)和算法的安全性要對(duì)利用者和利益相關(guān)者履行充分說明的義務(wù)。這種共識(shí)也反映于2019年5月公布的《OECD關(guān)于人工智能的政府間政策指導(dǎo)方針》和同年6月公布的《G20人工智能原則》之中，其倡導(dǎo)以人類為中心、以負(fù)責(zé)任的態(tài)度開發(fā)人工智能和培養(yǎng)數(shù)字生態(tài)系統(tǒng)。新興權(quán)利的形成和發(fā)展正是以這樣的共識(shí)為前提條件。如果把人工智能治理分為數(shù)據(jù)治理、算法治理以及應(yīng)用系統(tǒng)治理這三個(gè)不同層面，來具體考察國際社會(huì)已經(jīng)達(dá)成的共識(shí)，還可以發(fā)現(xiàn)其中存在不同的原則和規(guī)制，或者各有其重點(diǎn)內(nèi)容。在數(shù)據(jù)治理層面，特別強(qiáng)調(diào)審慎處理個(gè)人敏感信息，側(cè)重保護(hù)隱私以及個(gè)人信息安全，并要求消除數(shù)據(jù)噪音、提高其質(zhì)量和規(guī)格化程度。在算法治理層面，以透明性、準(zhǔn)確性、可靠性、可解釋性、可驗(yàn)證性、可追溯性作為衡量的標(biāo)準(zhǔn)。在應(yīng)用系統(tǒng)治理層面，追求向善性和無偏性等目標(biāo)。仔細(xì)推敲又可以發(fā)現(xiàn)，在人工智能治理方面似乎若隱若現(xiàn)地存在歐盟和美國這兩種不同的模式。歐盟始終側(cè)重統(tǒng)一立法，特別強(qiáng)調(diào)數(shù)據(jù)安全和算法公正，并傾向于事先規(guī)制。例如， GDPR嚴(yán)格限制數(shù)據(jù)跨境流轉(zhuǎn)，降低數(shù)據(jù)跨境傳輸?shù)娘L(fēng)險(xiǎn)，并且要求企業(yè)履行事前審批手續(xù)。與此形成對(duì)照的是美國，其采取逐步立法的漸進(jìn)路線，針對(duì)人工智能典型應(yīng)用場景分別制定特殊法規(guī)，更強(qiáng)調(diào)數(shù)字經(jīng)濟(jì)的開放性和競爭性，鼓勵(lì)數(shù)據(jù)有條件的自由流通，傾向于事后救濟(jì)，例如建立數(shù)據(jù)泄密通知機(jī)制。對(duì)不同層次、不同模式的問題狀況進(jìn)行梳理，有利于新興權(quán)利群的體系化，特別是從憲法與民法、基本權(quán)利與一般權(quán)利、道德與商務(wù)等不同維度進(jìn)行分類。
三、歐盟關(guān)于隱私和數(shù)據(jù)安全的憲法視角和司法救濟(jì)
在現(xiàn)代啟蒙精神的影響下，歐洲各國歷來重視人權(quán)和公民基本權(quán)利的保障。關(guān)于數(shù)據(jù)和算法的有關(guān)原則和規(guī)則，也以《歐洲人權(quán)公約》（1953年生效）、《歐盟基本權(quán)利憲章》（2009年生效）作為高階法律根據(jù)，特別是后者明確把個(gè)人數(shù)據(jù)保護(hù)納入憲法規(guī)范。從1995年的數(shù)據(jù)保護(hù)指令到2018年的GDPR，再到2020年11月提上議事日程的數(shù)據(jù)治理?xiàng)l例建議稿、數(shù)字市場法草案以及數(shù)字服務(wù)法草案，始終從憲法規(guī)范的視角來強(qiáng)調(diào)信息自決和個(gè)人隱私保護(hù)的基本權(quán)利，對(duì)數(shù)據(jù)畫像和自動(dòng)化決策采取斷然拒絕的態(tài)度。與此同時(shí)，歐盟也非常重視數(shù)據(jù)主權(quán)問題。眾所周知，中國在人工智能研發(fā)和數(shù)字經(jīng)濟(jì)轉(zhuǎn)型方面進(jìn)展非常迅猛，以致讓歐盟不得不采取“高筑墻”的對(duì)策，把防范美國和中國的數(shù)字優(yōu)勢地位作為制定法律的基本指針。這就勢必更進(jìn)一步強(qiáng)調(diào)信息安全和算法公正，通過法律和審批程序嚴(yán)格限制數(shù)據(jù)跨境流轉(zhuǎn)，使人工智能治理的相關(guān)制度宛如一座堅(jiān)固的城堡。
2018年5月25日起實(shí)施的GDPR號(hào)稱人工智能時(shí)代的人權(quán)宣言。該法以個(gè)人尊嚴(yán)和基本權(quán)利保障為宗旨，直接約束各加盟國的立法，并對(duì)歐盟各國的數(shù)據(jù)向其他國家的轉(zhuǎn)移業(yè)務(wù)也產(chǎn)生效力。GDPR還規(guī)定了一些新型的基本權(quán)利，例如，第5條強(qiáng)調(diào)限定數(shù)據(jù)收集和處理的目的、在一定目的范圍內(nèi)最大限度地減少對(duì)數(shù)據(jù)的處理和保存、讓數(shù)據(jù)保持完整、正確、更新以及匿名的狀態(tài)（信息安全保障權(quán)）；第13條第2款則從另一個(gè)角度強(qiáng)調(diào)了透明性原則（信息公開請求權(quán)），要求數(shù)據(jù)管理者必須對(duì)數(shù)據(jù)權(quán)利主體履行信息公開的義務(wù)，且所提供的信息必須能為數(shù)據(jù)權(quán)利主體所理解。GDPR第20條還特別規(guī)定個(gè)人享有自我數(shù)據(jù)便攜式獲取權(quán)；第21條承認(rèn)數(shù)據(jù)主體的異議權(quán)，如果數(shù)據(jù)管理者不能出示正當(dāng)性根據(jù)，必須中止電腦化處理；第22條宣布數(shù)據(jù)主體享有不服從那種僅根據(jù)人工智能而自動(dòng)化做出的決定的權(quán)利，并且明確指出數(shù)據(jù)管理者不得通過假裝有人介入的方式來規(guī)避第22條的約束。這些權(quán)利條款分別涉及數(shù)據(jù)獲取、數(shù)據(jù)權(quán)屬、數(shù)據(jù)保護(hù)、信息隱私、倫理問題等不同的法律維度。有關(guān)權(quán)利的保障和具體事項(xiàng)的權(quán)衡主要依賴各國法院以及歐盟普通法院、歐洲法院、歐洲人權(quán)法院。
從GDPR上述條款中可以發(fā)現(xiàn)，僅就數(shù)據(jù)治理而言，首先應(yīng)該充分讓公民享有兩項(xiàng)最基本的權(quán)利：一項(xiàng)是捍衛(wèi)隱私，因?yàn)檫@是意思自治的基礎(chǔ)；另一項(xiàng)是信息安全的保障，因?yàn)檫@是通信自由的基礎(chǔ)。這些基本權(quán)利在歐洲過去的憲法規(guī)范中都已有明文規(guī)定，在數(shù)字化時(shí)代需要刷新的是怎樣界定隱私和信息安全的范圍、在什么情況下允許干涉隱私權(quán)的判斷標(biāo)準(zhǔn)以及正當(dāng)化根據(jù)。從相關(guān)原則和規(guī)則中其實(shí)還可以歸納出一種新型的基本權(quán)利，這就是數(shù)據(jù)保護(hù)權(quán)，直接影響到數(shù)據(jù)處理的范圍和意義。在歐盟的語境中，數(shù)據(jù)保護(hù)權(quán)包括公民個(gè)人有權(quán)接觸和更正其個(gè)人數(shù)據(jù)，對(duì)數(shù)據(jù)保護(hù)權(quán)進(jìn)行限制的條件、程序以及標(biāo)準(zhǔn)，對(duì)數(shù)據(jù)的收集、處理、應(yīng)用進(jìn)行監(jiān)管的獨(dú)立機(jī)構(gòu)等具體內(nèi)容。如果把數(shù)據(jù)保護(hù)權(quán)適用于大數(shù)據(jù)的收集—分析—應(yīng)用流程，在法律上必須考慮的問題還包括個(gè)人數(shù)據(jù)的概念和類型、公共空間獲得的個(gè)人信息的私生活寧靜的意義、不同場景中的個(gè)人可識(shí)別性、應(yīng)該告知的事項(xiàng)或權(quán)利清單、對(duì)風(fēng)險(xiǎn)進(jìn)行監(jiān)控的方式、算法透明度以及例外情形、各種利益權(quán)衡的尺度、公共利益的界定等。在歐洲數(shù)據(jù)權(quán)認(rèn)定的司法實(shí)踐中，當(dāng)然堅(jiān)持基本權(quán)利優(yōu)先、賦予個(gè)人自由較高權(quán)重的立場。
因?yàn)?/span>GDPR和相應(yīng)的司法實(shí)踐主要著眼于個(gè)人數(shù)據(jù)以及相應(yīng)的憲法性權(quán)利保障，不能在私人主體之間的糾紛中強(qiáng)制執(zhí)行，也就不能完全適應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展，所以在歐盟內(nèi)部也出現(xiàn)修改法律框架的議論和動(dòng)向，試圖把數(shù)據(jù)保護(hù)的范圍擴(kuò)大到所有數(shù)據(jù)（不限于個(gè)人可識(shí)別數(shù)據(jù)）。在司法實(shí)踐中，有些判例已開始將消費(fèi)者保護(hù)法、競爭法的相關(guān)規(guī)定及集團(tuán)訴訟方式適用于大數(shù)據(jù)流程，以提升個(gè)人與強(qiáng)勢的網(wǎng)絡(luò)大公司進(jìn)行博弈的地位。在行政實(shí)踐中，各國政府也開始加強(qiáng)對(duì)數(shù)據(jù)行業(yè)的監(jiān)管和算法審計(jì)，并強(qiáng)調(diào)大數(shù)據(jù)倫理的意義。與這種新趨勢相關(guān)聯(lián)，法學(xué)界開始討論創(chuàng)設(shè)數(shù)據(jù)財(cái)產(chǎn)權(quán)的議題，以充分實(shí)現(xiàn)數(shù)據(jù)的商業(yè)價(jià)值并加強(qiáng)個(gè)人數(shù)據(jù)主體的議價(jià)能力。總之，歐盟開始調(diào)整過強(qiáng)的憲法指向，探索針對(duì)大數(shù)據(jù)特征的綜合治理方案，試圖實(shí)現(xiàn)個(gè)人信息安全和隱私保護(hù)的多層多樣性和整合化。
四、中國關(guān)于智能物聯(lián)網(wǎng)治理的民法視角和行政救濟(jì)
中國的現(xiàn)實(shí)與歐盟形成鮮明的對(duì)照，不是側(cè)重憲法，而是主要從民法以及行政舉措的視角來加強(qiáng)對(duì)隱私、信息安全及人格利益的綜合保護(hù)。因此，關(guān)于數(shù)據(jù)和隱私的中國法律規(guī)范主要在公民個(gè)人、集體以及企業(yè)之間強(qiáng)制執(zhí)行，很少針對(duì)政府。從2016年底開始，中國通過一些單行的法律、法規(guī)、規(guī)章來對(duì)數(shù)字化時(shí)代的新興權(quán)利進(jìn)行認(rèn)定和保護(hù)，并明確了相應(yīng)的義務(wù)和責(zé)任。例如，我國《網(wǎng)絡(luò)安全法》（2016年11月）規(guī)定了公民對(duì)個(gè)人信息的刪除權(quán)和訂正權(quán)、《個(gè)人信息安全規(guī)范》（2017年12月）加強(qiáng)了對(duì)網(wǎng)絡(luò)平臺(tái)的規(guī)制、我國《電子商務(wù)法》（2018年8月）使網(wǎng)絡(luò)平臺(tái)經(jīng)營者的監(jiān)管責(zé)任具體化、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》（2020年3月）著手整頓個(gè)人信息交易和調(diào)整算法推薦邏輯。我國《數(shù)據(jù)安全法》已經(jīng)在2021年6月10日通過、同年9月1日起實(shí)施；我國《個(gè)人信息保護(hù)法》也于2021年11月施行。
我國《民法典》專設(shè)人格權(quán)編，清楚地界定隱私和個(gè)人信息的權(quán)利范圍，以加強(qiáng)對(duì)新興權(quán)利的保護(hù)，具有補(bǔ)充憲法的基本權(quán)利清單的意義，但主要是適應(yīng)了數(shù)字化時(shí)代經(jīng)濟(jì)社會(huì)的需要。例如，我國《民法典》第1034條規(guī)定受這項(xiàng)基本法律保護(hù)的個(gè)人信息包括健康信息、行蹤信息，還規(guī)定了處理虛擬身份（第1017條）、數(shù)字肖像（第1019條）、數(shù)字聲音（第1023條）等個(gè)人信息時(shí)必須遵循的原則、條件以及義務(wù)。我國《民法典》第1035條規(guī)定了大數(shù)據(jù)收集和應(yīng)用之際應(yīng)該堅(jiān)持的合法、正當(dāng)、必要、適度的原則；第1033條、第1038條、第1039條還分別明確了信息安全保障義務(wù)，包括不得泄露、不得篡改以及不得非法提供；第1037條進(jìn)一步完善了個(gè)人信息主體的權(quán)利構(gòu)成，確立了查閱權(quán)、復(fù)制權(quán)、更正權(quán)、刪除權(quán)以及網(wǎng)絡(luò)侵權(quán)的責(zé)任、網(wǎng)絡(luò)服務(wù)提供者的注意義務(wù)，將數(shù)據(jù)和虛擬財(cái)產(chǎn)都納入法律保護(hù)范圍。
我國《民法典》并沒有創(chuàng)設(shè)數(shù)據(jù)財(cái)產(chǎn)權(quán)，但我國《數(shù)據(jù)安全法》第7條表明“國家保護(hù)個(gè)人、組織與數(shù)據(jù)有關(guān)的權(quán)益，鼓勵(lì)數(shù)據(jù)依法合理有效利用，保障數(shù)據(jù)依法有序自由流動(dòng)，促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)發(fā)展”。該法第19條規(guī)定“國家建立健全數(shù)據(jù)交易管理制度，規(guī)范數(shù)據(jù)交易行為，培育數(shù)據(jù)交易市場”；第33條還指出：“從事數(shù)據(jù)交易中介服務(wù)的機(jī)構(gòu)提供服務(wù)，應(yīng)當(dāng)要求數(shù)據(jù)提供方說明數(shù)據(jù)來源，審核交易雙方的身份，并留存審核、交易記錄”。這意味著中國通過對(duì)數(shù)據(jù)進(jìn)行評(píng)價(jià)和共享的程序來確保數(shù)據(jù)交易的順利進(jìn)行，并把合法、同意以及通過契約之鏈確認(rèn)的正當(dāng)來歷作為數(shù)據(jù)處理合法性的基礎(chǔ)，對(duì)個(gè)人數(shù)據(jù)的人格利益和財(cái)產(chǎn)利益進(jìn)行債權(quán)式的保護(hù)——例如對(duì)違約及侵權(quán)行為的損害賠償請求權(quán)，權(quán)利人可以借助反不正當(dāng)競爭法和消費(fèi)者權(quán)益保護(hù)法的規(guī)定進(jìn)行維權(quán)。
根據(jù)我國《民事訴訟法》，還存在非營利機(jī)構(gòu)或公益機(jī)構(gòu)代表分散的數(shù)據(jù)主體進(jìn)行民事集團(tuán)訴訟的可能性。例如我國《個(gè)人信息保護(hù)法》就規(guī)定對(duì)于違法處理個(gè)人信息、侵害眾多個(gè)人的權(quán)益的，人民檢察院、法律規(guī)定的消費(fèi)者組織和由國家網(wǎng)信部門確定的組織可以依法向人民法院提起訴訟。另外，《未成年人網(wǎng)絡(luò)保護(hù)條例（草案征求意見稿）》也規(guī)定如果未成年人的網(wǎng)絡(luò)合法權(quán)益收到侵犯，且相關(guān)組織和個(gè)人未代為提起訴訟的，人民檢察院可以督促、支持其提起訴訟；涉及公共利益的，人民檢察有權(quán)提起公益訴訟。然而，在這樣的狀況下，實(shí)體法上的數(shù)據(jù)財(cái)產(chǎn)權(quán)關(guān)系不清晰，也很容易引起糾紛。多明戈指出：“控制好數(shù)據(jù)，控制好算法掌握的模型的所有權(quán)，這就是21世紀(jì)戰(zhàn)爭的內(nèi)容。”這已經(jīng)暗示了數(shù)據(jù)財(cái)產(chǎn)權(quán)以及學(xué)習(xí)后模型的知識(shí)產(chǎn)權(quán)之爭的必然性。與這種“21世紀(jì)戰(zhàn)爭”相關(guān)，中國大數(shù)據(jù)產(chǎn)業(yè)和人工智能產(chǎn)業(yè)在走出去的過程中反復(fù)遭到歐美各國的質(zhì)疑和制裁，主要理由就是涉及數(shù)據(jù)安全和算法倫理的基本權(quán)利保障不充分。因此，完善數(shù)據(jù)財(cái)產(chǎn)權(quán)的實(shí)體規(guī)范，進(jìn)而將之提升至基本權(quán)利的高度，是一項(xiàng)很重要并具有迫切性的立法課題。
然而，如果完全按照歐盟那樣的根本規(guī)范行事，又難免遏制數(shù)字經(jīng)濟(jì)高速增長的勢頭。鑒于上述問題，筆者曾經(jīng)揭示了數(shù)據(jù)的規(guī)模和質(zhì)量與人工智能的預(yù)測能力之間的正比例關(guān)系，指出中國在數(shù)據(jù)收集和應(yīng)用方面的獨(dú)特優(yōu)勢正是機(jī)器學(xué)習(xí)算法提高精密度的重要條件。何況數(shù)據(jù)的本質(zhì)是信息，以流動(dòng)性為特征，很難進(jìn)行排他化、絕對(duì)化的處理；如果采取過度保護(hù)的立法政策，反而有可能使數(shù)據(jù)的經(jīng)濟(jì)價(jià)值無法實(shí)現(xiàn)。例如歐盟設(shè)立數(shù)據(jù)庫權(quán)利并進(jìn)行嚴(yán)格的保護(hù)，最終導(dǎo)致沒有一家大型的數(shù)字經(jīng)濟(jì)平臺(tái)和企業(yè)在歐洲崛起。實(shí)際上，歐盟也開始對(duì)以GDPR為核心的數(shù)據(jù)法制框架進(jìn)行反思，試圖兼顧數(shù)字經(jīng)濟(jì)發(fā)展的需求，在厘清數(shù)據(jù)產(chǎn)權(quán)關(guān)系的基礎(chǔ)上充分發(fā)掘數(shù)據(jù)的商業(yè)價(jià)值。在這里，中國可以與歐盟相向而行、互相借鑒。
五、數(shù)據(jù)合理使用原則與個(gè)人基本權(quán)利的保障
首先，對(duì)于中國而言，應(yīng)該認(rèn)識(shí)到片面強(qiáng)調(diào)數(shù)字經(jīng)濟(jì)發(fā)展和對(duì)數(shù)據(jù)權(quán)利偏重民法救濟(jì)的弊端，結(jié)合中國的實(shí)際情況適當(dāng)借鑒歐盟保護(hù)數(shù)據(jù)權(quán)利的憲法方法。因?yàn)閷?duì)隱私和個(gè)人信息的保護(hù)是自由的基礎(chǔ)，涉及個(gè)人意思自治、言論自由、信息處分權(quán)以及反歧視，所以必須把隱私和個(gè)人信息保護(hù)提升至基本權(quán)利的高度，進(jìn)而強(qiáng)調(diào)數(shù)字人權(quán)的保障。結(jié)合大數(shù)據(jù)和人工智能應(yīng)用場景可以看到，預(yù)測式警察系統(tǒng)和信用評(píng)分系統(tǒng)的初衷雖然很好，但會(huì)導(dǎo)致標(biāo)簽主義、身份原理的復(fù)活和大規(guī)模監(jiān)控，導(dǎo)致社會(huì)的區(qū)塊分化和階層固化，這與黨的十八大以來強(qiáng)調(diào)的國家治理體系和治理能力現(xiàn)代化的目標(biāo)是不相符的。另外，缺乏倫理制約的機(jī)器學(xué)習(xí)會(huì)導(dǎo)致算法黑箱化，在決策自動(dòng)化的同時(shí)導(dǎo)致問責(zé)機(jī)制分崩離析，形成機(jī)器官僚主義支配的格局。因此，人工智能時(shí)代的數(shù)據(jù)權(quán)利保障不僅需要民法的視角，而且非常需要憲法的視角，包括對(duì)基于數(shù)據(jù)畫像而復(fù)活的身份原理、基于遺傳信息而抬頭的血統(tǒng)主義、基于算法偏見而加強(qiáng)的差別對(duì)待等現(xiàn)象的預(yù)防或糾正。一旦保障數(shù)據(jù)基本權(quán)利的憲法框架得以確立，數(shù)字經(jīng)濟(jì)立法的空間就有可能適當(dāng)拓展。
其次，為了在人工智能時(shí)代有效地落實(shí)基本權(quán)利保障，有必要特別關(guān)注區(qū)塊鏈技術(shù)在社會(huì)治理方面的應(yīng)用，因?yàn)閰^(qū)塊鏈的本質(zhì)在于隱私的黑箱化、個(gè)人和社會(huì)自治功能的強(qiáng)化，避免大數(shù)據(jù)內(nèi)在的監(jiān)控可能性導(dǎo)致人們在言論和行為方面自我禁錮的寒蟬效應(yīng)。鑒于集中化的人工智能技術(shù)與分散化的區(qū)塊鏈協(xié)議之間的平衡化效應(yīng)，甚至可以主張新時(shí)代憲法秩序變遷的方向就是人工智能系統(tǒng)之間的分立、互查、警告以及制衡，尤其要以區(qū)塊鏈技術(shù)來限制人工智能技術(shù)，也包括用對(duì)高度規(guī)格化的小數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)的結(jié)果來檢驗(yàn)對(duì)大數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)的結(jié)果、在機(jī)器學(xué)習(xí)之際將已有的數(shù)據(jù)分為訓(xùn)練集和測試集等方法的采用。這樣的技術(shù)分權(quán)制衡機(jī)制，可以理解為一種新型的“數(shù)字化監(jiān)察權(quán)”，也構(gòu)成當(dāng)今中國憲法學(xué)發(fā)展的一個(gè)新的切入點(diǎn)或增長點(diǎn)。
再次，有必要在中國更鮮明地提出“數(shù)據(jù)公平使用”的立法原則，在個(gè)人基本權(quán)利保護(hù)、數(shù)字經(jīng)濟(jì)發(fā)展以及數(shù)據(jù)利潤共享之間達(dá)成適當(dāng)?shù)钠胶狻＿@種主張并非筆者標(biāo)新立異，事實(shí)上，其已經(jīng)得到部分發(fā)達(dá)國家立法實(shí)踐的支持。例如，歐盟最新的制度設(shè)計(jì)，包括數(shù)據(jù)治理?xiàng)l例建議稿（2020年11月25日）、數(shù)字市場法草案和數(shù)字服務(wù)法草案（2020年12月15日）等，已有統(tǒng)籌兼顧之意。又如，日本在2021年5月19日提出的《數(shù)字社會(huì)法制改革法案》特別強(qiáng)調(diào)，在保護(hù)隱私權(quán)和數(shù)據(jù)安全的同時(shí)，還應(yīng)該保持?jǐn)?shù)字經(jīng)濟(jì)發(fā)展的機(jī)會(huì)。再如，美國參議院在2021年6月9日通過的《美國創(chuàng)新和競爭法案》為了永久維持本國的優(yōu)勢，更明顯地把重點(diǎn)放在科技產(chǎn)業(yè)創(chuàng)新方面，于數(shù)字基本權(quán)利方面反倒著墨不多。美國不采取統(tǒng)一立法方式，關(guān)于數(shù)據(jù)倫理、算法公正以及網(wǎng)絡(luò)空間競爭秩序的規(guī)范制定，主要委諸各州，從而給企業(yè)的自由發(fā)展、相機(jī)涉訴以及司法外交留下了充分的回旋空間。
從數(shù)字經(jīng)濟(jì)的角度來把握基本權(quán)利，還應(yīng)重視一項(xiàng)法理原則，即對(duì)公平分配利益的合理期待。在某種意義上可以說，這種賦權(quán)的關(guān)鍵是形成一種對(duì)不同屬性的人權(quán)之間關(guān)系進(jìn)行適當(dāng)處理的機(jī)制，即人權(quán)相互的調(diào)整，當(dāng)然也勢必涉及個(gè)人數(shù)據(jù)權(quán)利與公共利益以及改進(jìn)人類整體福祉的導(dǎo)向之間的協(xié)調(diào)。關(guān)于這種機(jī)制設(shè)計(jì)，可以舉出英國的數(shù)據(jù)信托構(gòu)想、日本的數(shù)據(jù)銀行構(gòu)想、中國的數(shù)據(jù)交易所構(gòu)想。這些構(gòu)想的宗旨和目標(biāo)都是要防止大型網(wǎng)絡(luò)平臺(tái)企業(yè)或政府部門壟斷數(shù)據(jù)所帶來的各種弊端，改變數(shù)據(jù)主體與數(shù)據(jù)控制者之間的非對(duì)稱關(guān)系，通過獨(dú)立的、中立的、可信任的第三方機(jī)構(gòu)、平臺(tái)或者交換機(jī)制以及相應(yīng)的法律制度安排，在數(shù)據(jù)儲(chǔ)存、管理以及交易中確保隱私和信息安全。
數(shù)據(jù)信托構(gòu)想付諸實(shí)施之際的問題是數(shù)據(jù)的權(quán)屬關(guān)系很難界定，也很難征求利益攸關(guān)者的同意，并以此作為數(shù)據(jù)管理的正當(dāng)性基礎(chǔ)，因而具體的運(yùn)作有賴于情境思維，不得不因地制宜、采取多樣化的組織方式。與此不同，數(shù)據(jù)銀行更明確地以數(shù)據(jù)貨幣化為特征，通過儲(chǔ)存數(shù)據(jù)的利息或者對(duì)數(shù)據(jù)主體給予積分獎(jiǎng)勵(lì)等方式增強(qiáng)誘因，通過匿名化處理后把數(shù)據(jù)貸出，創(chuàng)造經(jīng)濟(jì)價(jià)值，進(jìn)而在數(shù)據(jù)主體與分析和應(yīng)用數(shù)據(jù)的企業(yè)之間形成合理的利益分配關(guān)系，以此作為可持續(xù)性商業(yè)模式的基礎(chǔ)。如果說數(shù)據(jù)信托和數(shù)據(jù)銀行本質(zhì)上更傾向于企業(yè)組織，那么也可以說第三種構(gòu)想本質(zhì)上更傾向于自我調(diào)節(jié)的市場。數(shù)據(jù)交易所的設(shè)計(jì)方案試圖直接把中國現(xiàn)實(shí)中已存在的數(shù)據(jù)交易現(xiàn)象加以制度化，依托行業(yè)協(xié)會(huì)和專業(yè)化評(píng)估機(jī)構(gòu)和仲裁機(jī)構(gòu)，使數(shù)據(jù)交易所成為要素市場化配置的一種賦權(quán)機(jī)制。
最后，還要探討與機(jī)器人權(quán)或者電子人格（e-person）相關(guān)的權(quán)利問題。賦予人工智能系統(tǒng)或者機(jī)器人法律人格以及權(quán)利之議聽起來似乎有些虛玄，但如果人機(jī)混合狀態(tài)更普遍、人工智能系統(tǒng)的性能變得更強(qiáng)、機(jī)器人開始具有自我意識(shí)和精神作用，那么這樣的思考就將具有現(xiàn)實(shí)意義，猶如關(guān)于動(dòng)物、胎兒、植物人權(quán)利的學(xué)說已經(jīng)為社會(huì)所接納一樣。實(shí)際上，只有承認(rèn)人工智能系統(tǒng)的法律人格，才能實(shí)現(xiàn)向機(jī)器人征稅、讓智能技術(shù)之間達(dá)成分權(quán)制衡、認(rèn)定自動(dòng)化創(chuàng)作的著作權(quán)和發(fā)明權(quán)、依法追究智能合約的違約責(zé)任、合理解決自動(dòng)駕駛汽車或智能醫(yī)療機(jī)器人造成損害的法律責(zé)任分擔(dān)問題以及推動(dòng)人工智能企業(yè)從無限責(zé)任形態(tài)轉(zhuǎn)向有限責(zé)任形態(tài)等制度設(shè)計(jì)方案。一旦承認(rèn)智能機(jī)器的法律人格和權(quán)利，隨之還會(huì)出現(xiàn)機(jī)器人的言論自由以及拒絕歧視和虐待的憲法性議論，使基本權(quán)利的外延和內(nèi)涵也獲得重新認(rèn)識(shí)。
六、結(jié)語：數(shù)字人權(quán)之爭與中國憲法學(xué)的增長點(diǎn)
近期，在中國，智能軟件“ZAO —逢臉造戲”消費(fèi)協(xié)議的霸王條款引爆全國輿情，針對(duì)杭州野生動(dòng)物世界強(qiáng)行采用人臉識(shí)別技術(shù)的訴訟也成為法律界的熱點(diǎn)，這兩件標(biāo)志性事件幾乎同時(shí)發(fā)生，使人們有理由將2019年視為中國“數(shù)字人權(quán)元年”。從更廣泛的意義上來說，提出數(shù)字人權(quán)的概念是為了對(duì)抗算法獨(dú)裁、對(duì)抗已經(jīng)開始蔓延的機(jī)器官僚主義傾向。值得重視的是，張文顯教授和馬長山教授還進(jìn)一步把數(shù)字人權(quán)理解為第四代人權(quán)，至少構(gòu)成其中一項(xiàng)最核心的內(nèi)容。然而，究竟能否提出數(shù)字人權(quán)的概念、能否把數(shù)字人權(quán)作為第四代人權(quán)，迄今為止在中國法學(xué)界仍存在尖銳的對(duì)立。例如，劉志強(qiáng)教授就認(rèn)為數(shù)字權(quán)利不能理解為新型人權(quán)，甚至不宜作為的人權(quán)的下位概念。通常所說的三代人權(quán)是指自由人權(quán)（信仰自由、人身自由、言論自由、選舉自由）、社會(huì)人權(quán)（受教育權(quán)、居住權(quán)、健康權(quán)、擇業(yè)權(quán)、最低生活標(biāo)準(zhǔn)等）、族群人權(quán)（少數(shù)民族語言、民族自治、環(huán)境權(quán)、發(fā)展權(quán)、女權(quán)、同性戀權(quán)）。人們提出數(shù)字人權(quán)這個(gè)概念時(shí)，主要針對(duì)數(shù)字鴻溝、算法歧視、監(jiān)控社會(huì)、網(wǎng)絡(luò)人格等問題，其內(nèi)容的確與既有的自由權(quán)、社會(huì)權(quán)、族群權(quán)有著千絲萬縷的聯(lián)系。在這個(gè)意義上，劉教授的主張不無道理。
盡管如此，筆者還是不得不指出：信息和實(shí)體交融的系統(tǒng)的確產(chǎn)生了前所未有的互動(dòng)關(guān)系和生活方式，勢必導(dǎo)致社會(huì)結(jié)構(gòu)的大轉(zhuǎn)型。在這里，公民的身份具有更加明顯的多重多樣性；人的權(quán)利行使不僅受到主權(quán)的約束，而且受到代碼框架的規(guī)制，在很多方面代碼甚至取代了法律；人際溝通的空間因聊天室和微信群的人數(shù)上限以及監(jiān)測技術(shù)而發(fā)生質(zhì)變，控制成本大幅度下降；社群可以采取在線方式，形成虛擬的第二人生；信息具有越來越豐富的經(jīng)濟(jì)價(jià)值，但給信息賦予財(cái)產(chǎn)權(quán)卻又會(huì)帶來各種風(fēng)險(xiǎn)。另外，隱私不僅受到傳統(tǒng)的威脅，而且受到來自無所不在的數(shù)字感應(yīng)器的威脅以及來自私人組織（例如電商、外賣店）自動(dòng)收集信息活動(dòng)的威脅，這樣的事態(tài)是前所未有的。由此可見，數(shù)字人權(quán)的概念的確存在獨(dú)特的形式和內(nèi)容，具有充分的事實(shí)依據(jù)和法理基礎(chǔ)；數(shù)字基本權(quán)利的認(rèn)定和保障也的確形成了某種嶄新的范式，是既有的制度框架難以涵蓋的，稱之為第四代人權(quán)并無不妥。
總之，由于信息通信技術(shù)和智能物聯(lián)網(wǎng)的普及，我們正在經(jīng)歷人類社會(huì)的空前巨變，政府的治理體系、法律的制度安排乃至憲法的基本框架都需要重新認(rèn)識(shí)。對(duì)于基本權(quán)利理論而言，可以說同時(shí)面臨發(fā)展的挑戰(zhàn)和機(jī)遇，需要人們共同努力，不斷嘗試知識(shí)范式的創(chuàng)新，提出適應(yīng)世界大轉(zhuǎn)型趨勢的制度設(shè)計(jì)方案和政策工具。在這樣的背景下，筆者認(rèn)為，提出數(shù)字人權(quán)以及第四代人權(quán)的議題，并以此為契機(jī)深入探討新興權(quán)利的各種類型和具體內(nèi)容，對(duì)當(dāng)今中國的法治秩序構(gòu)建具有重要而深遠(yuǎn)的意義。特別是在把體制問題轉(zhuǎn)化為法律程序和數(shù)字技術(shù)問題的基礎(chǔ)上，圍繞數(shù)據(jù)保護(hù)權(quán)以及數(shù)字人權(quán)的自由討論，可以為憲法學(xué)和人權(quán)論的發(fā)展以及范式革新找到若干新的切入點(diǎn)、突破口或者增長極。
原文刊載于《政治與法律》2021年第10期，感謝微信公眾號(hào)“政治與法律編輯部”授權(quán)轉(zhuǎn)載。