上海交通大學(xué)中國法與社會研究院

2021年02月10日來源：中國法與社會研究院預(yù)覽：

季衛(wèi)東編著《AI時代的法制變遷》（“人工智能治理與法律”研究叢書① 上海三聯(lián)書店，2020年12月出版）

內(nèi)容簡介

信息技術(shù)的廣泛采用導(dǎo)致人類日常生活日益被數(shù)字覆蓋、社會呈現(xiàn)出虛擬與實體交錯互融以及智能網(wǎng)絡(luò)化的特征，產(chǎn)業(yè)經(jīng)濟也在相當(dāng)程度上已經(jīng)由數(shù)據(jù)驅(qū)動。萬物聯(lián)通、大數(shù)據(jù)以及人工智能之間存在著互相促進(jìn)的正比例關(guān)系，這種一日千里的動態(tài)對以物權(quán)為基石、以確定性為目標(biāo)的既有法律體系構(gòu)成嚴(yán)峻的挑戰(zhàn)，但同時也帶來了制度創(chuàng)新的機遇。人工智能技術(shù)在法律方面的應(yīng)用的確提高了司法效率和同案同判意義上的公正水平，然而在算法黑箱化現(xiàn)象里也潛伏著瓦解問責(zé)機制的風(fēng)險。一方面，代碼框架和技術(shù)標(biāo)準(zhǔn)在很多方面正在改變權(quán)利義務(wù)的設(shè)置，甚至大有取代法律之勢；另一方面，常識庫構(gòu)建難題與符號落地難題以及價值判斷難題卻劃出了法律人工智能的界限。近來對人工智能在原則、倫理、規(guī)則以及政策等領(lǐng)域引發(fā)的各種問題進(jìn)行反思，使得怎樣對人工智能進(jìn)行適當(dāng)治理的討論也終于進(jìn)入公共話題和政治議程。以上述現(xiàn)象昭示的法律與社會大轉(zhuǎn)型為背景，本書全面考察人工智能在秩序和規(guī)則方面導(dǎo)致的復(fù)雜而深遠(yuǎn)的變化，并從跨學(xué)科的視角對現(xiàn)代法治范式轉(zhuǎn)換和理論創(chuàng)新的可能性進(jìn)行了初步探索。

序：人工智能時代呼喚法律的范式革命

我們都能體會到中國整個的社會系統(tǒng)正在發(fā)生非常深刻的變化。主要體現(xiàn)在日常生活的方方面面被數(shù)字所覆蓋，從網(wǎng)購、外賣、移動支付到電子保險。疫情期間，體溫警察、健康碼、群體檢測更是為防控帶來了技術(shù)保障。通過掃碼和刷臉獲得的這些便利的實質(zhì)是什么？是幾乎把生活中所有的場面、所有的活動都轉(zhuǎn)換成了數(shù)字形式，并積累成大數(shù)據(jù)。數(shù)據(jù)被稱為是21世紀(jì)的石油，是經(jīng)濟的驅(qū)動力量。市場的主要交易形態(tài)也從往日的物品轉(zhuǎn)換成服務(wù)，例如便捷的網(wǎng)約車帶來的就是服務(wù)，使個人購車的意義也大為下降。

人工智能時代社會系統(tǒng)變化，歸納起來呈現(xiàn)三個特征——智能網(wǎng)絡(luò)化、算法黑箱化、機器自主化。一方面，科技的規(guī)格、代碼似乎正在取代法律，另外一方面，人工智能也在參與輔助法律實施，加強法律的功能。這樣的背景下，一些已經(jīng)發(fā)生的實例和問題都不斷昭示：法律秩序的基本概念和制度設(shè)計需要一場范式革命。

例如在2020年6月27日，上海開始提供滴滴自動駕駛網(wǎng)約車服務(wù)。隨之而來的當(dāng)然還有交通事故的風(fēng)險、責(zé)任主體是誰、交通規(guī)則如何執(zhí)行等一系列問題。從法律角度來看，首先要考慮共享乘車服務(wù)提供者的資質(zhì)和信用?，F(xiàn)有的《道路交通安全法》第19條規(guī)定駕駛者的資格要件，人工智能是否也需要獲得駕駛執(zhí)照？如何界定自動駕駛車輛的智能化級別與法律的關(guān)系？一旦導(dǎo)入人工智能，開始只是發(fā)揮輔助性作用，或者部分操作自動化；但到了附條件自動駕駛或者完全自動駕駛，軟件系統(tǒng)本身就成為責(zé)任主體。如果出了問題，是找汽車廠商、程序開發(fā)商，還是數(shù)據(jù)提供商追究賠償責(zé)任？這個責(zé)任如何認(rèn)定？如何分配？人工智能的利用者具有不同的類型，但無論是消費利用還是商務(wù)利用，是否都應(yīng)該采取利用者免責(zé)的原則？第五，如果車輛在抵達(dá)目的地前拋錨了，是意味著服務(wù)終結(jié)還是提供其他出租車？在交易對象是車輛時由買主承擔(dān)后來的風(fēng)險，但在交易對象是服務(wù)時是不是由賣主永遠(yuǎn)承擔(dān)后續(xù)風(fēng)險？既然上海已經(jīng)有自動駕駛網(wǎng)約車上路了，這些問題就會迫在眉睫，需要有關(guān)機關(guān)及時調(diào)研和立法，制定自動駕駛的交通安全制度的設(shè)計方案。

從法律角度來看，數(shù)據(jù)保護有兩端——知識產(chǎn)權(quán)法與信息安全。數(shù)據(jù)是人工智能的養(yǎng)料。數(shù)據(jù)越多，規(guī)模越大，數(shù)據(jù)的質(zhì)量越好，人工智能預(yù)測能力也就越強。但數(shù)據(jù)的收集和應(yīng)用確實存在著信息安全的風(fēng)險。歐盟在1996年制定數(shù)據(jù)庫權(quán)利法令，意在通過嚴(yán)格保護數(shù)據(jù)庫知識產(chǎn)權(quán)的方式促進(jìn)數(shù)據(jù)產(chǎn)業(yè)，結(jié)果失敗了。2018年又出臺《一般數(shù)據(jù)保護條例》(GDPR)，意在嚴(yán)格保護數(shù)據(jù)主體的隱私權(quán)，這當(dāng)然是很有必要的，也是現(xiàn)代法治精神的體現(xiàn)。這個世界最嚴(yán)數(shù)據(jù)規(guī)則的好處是能夠防止個人的信息隱私權(quán)受到侵犯。但問題是數(shù)據(jù)的本質(zhì)在于信息，信息很難進(jìn)行排他性的絕對保護，甚至很難確定數(shù)據(jù)究竟應(yīng)該屬于誰。正因為這種事態(tài)會助長數(shù)據(jù)利益分配上的不公平，所以才需要通過數(shù)據(jù)人權(quán)宣言的方式來制衡數(shù)據(jù)產(chǎn)業(yè)的暴利傾向、爭取實現(xiàn)分配的正義，這種立法意圖是可以理解、值得贊揚的。但是，過于嚴(yán)苛的隱私保護會使數(shù)據(jù)的收集和利用變得非常困難。如果整個數(shù)據(jù)世界被隱私權(quán)分割成一小塊一小塊，那就無法有效率地發(fā)展數(shù)據(jù)產(chǎn)業(yè)和人工智能產(chǎn)業(yè)。

中國在2020年5月頒布的《民法典》單獨設(shè)立人格權(quán)編，這是一種鮮明的體例特色，也及時回應(yīng)了大數(shù)據(jù)和人工智能時代的需求?！睹穹ǖ洹啡烁駲?quán)編界定了隱私和個人信息的權(quán)利范圍，特別在第1034條強調(diào)了保護個人的健康信息和行蹤信息；在大數(shù)據(jù)的搜集上，規(guī)定了處理個人信息必須遵循的原則和條件以及信息安全保障的義務(wù)；《民法典》還規(guī)定了個人信息主體的權(quán)利構(gòu)成，包括查閱權(quán)、復(fù)制權(quán)、更正權(quán)、刪除權(quán)等等。在網(wǎng)絡(luò)侵權(quán)責(zé)任方面強調(diào)了網(wǎng)絡(luò)服務(wù)提供者要履行注意義務(wù)，明確了數(shù)據(jù)和虛擬財產(chǎn)受法律保護。然而正是在這里，制度設(shè)計不得不面對某種兩難困境：注重個人信息和隱私的保護就有可能妨礙數(shù)據(jù)以及人工智能方面的產(chǎn)業(yè)發(fā)展，注重數(shù)據(jù)驅(qū)動的經(jīng)濟效益卻又容易侵害個人尊嚴(yán)和隱私，甚至引發(fā)信息安全問題。要兼顧這兩個方面，就需要認(rèn)真對待制度設(shè)計問題。值得深入探討的一種對策是設(shè)立數(shù)據(jù)托管機構(gòu)，對寄存?zhèn)€人數(shù)據(jù)的主體給予適當(dāng)?shù)姆e分獎勵。數(shù)據(jù)托管機構(gòu)對數(shù)據(jù)進(jìn)行匿名化處理，企業(yè)可以在通過資質(zhì)審查后采取繳納使用費的方式來獲得和處理數(shù)據(jù)，而數(shù)據(jù)主體也可以適當(dāng)分享數(shù)據(jù)產(chǎn)業(yè)的利益。在日本，已經(jīng)出現(xiàn)了設(shè)立復(fù)數(shù)信息銀行的構(gòu)想，個人可以像存款那樣把信息儲蓄到銀行，企業(yè)向信息銀行借貸個人信息。在中國，也許公共性質(zhì)的數(shù)據(jù)托管機構(gòu)更適合國情。

美國學(xué)者勞倫斯·萊斯格教授在1999年提出一個命題：Code is law,代碼就是法律。如今這樣的例子很多。比如，為了保護電視節(jié)目的著作權(quán)，規(guī)定所有的DVD制作按某個技術(shù)標(biāo)準(zhǔn)只能復(fù)制一次，不能再復(fù)制到其他DVD上，以防不法者盈利。但這樣也會妨害正常的學(xué)習(xí)和欣賞。無論如何，這種現(xiàn)象說明技術(shù)規(guī)格在相當(dāng)程度上取代了法律來決定人們的行為方式。目前上海實行的“一網(wǎng)管通”上有政府機關(guān)的幾乎所有服務(wù)項目，健康碼成為一個非常方便的應(yīng)用場景。然而有關(guān)信息收集、數(shù)據(jù)處理的權(quán)限和程序卻并沒有明確，所依據(jù)的法律根據(jù)也不清楚，并且可以瞬間改變。實際上，通過網(wǎng)絡(luò)平臺進(jìn)行數(shù)字化治理以及經(jīng)濟活動，各種服務(wù)關(guān)系很難用法律來明確界定權(quán)利、義務(wù)關(guān)系。由此可見，人工智能的技術(shù)規(guī)格和數(shù)據(jù)的安全分級標(biāo)準(zhǔn)的制定工作已經(jīng)迫在眉睫，立法也必須及時跟上。在這種背景下，也許將出現(xiàn)“代碼與法律并行”的局面。中國存在“禮法并行”的文化傳統(tǒng)，還有現(xiàn)代的“法律與政策并行”實踐經(jīng)驗，對于代碼與法律并行的治理方式也許不會產(chǎn)生抵觸。正是在這里，我們可以找到治理方式創(chuàng)新的契機或者切入點。

在人工智能時代，從法學(xué)角度來看，算法黑箱化是一個嚴(yán)重問題，因為會導(dǎo)致責(zé)任政府和問責(zé)機制的動搖。要解決這個問題，強調(diào)算法透明化、強調(diào)人類的介入和監(jiān)控固然必要，但很難收到預(yù)期效果。在這種情況下，以人工智能制衡人工智能、以代碼制衡代碼也許是更可行的對策。其中特別值得留意的是區(qū)塊鏈技術(shù)。它的本質(zhì)數(shù)據(jù)處理分散化、讓中樞的作用簡約化，通過加密的哈希值實現(xiàn)個人隱私的黑箱化，在網(wǎng)絡(luò)共識中形成相互信任。在某種意義上，就是通過具體的智能合約來決定網(wǎng)絡(luò)中的權(quán)利義務(wù)，并可以制衡人工智能的程序算法。另外，在算法黑箱化的情況下，人工智能系統(tǒng)越復(fù)雜出現(xiàn)操作失誤的可能性就越大，問責(zé)也變得越困難。如果讓人工智能系統(tǒng)的開發(fā)者、制造者為算法失誤承擔(dān)無限的連帶責(zé)任，就會妨礙人工智能的發(fā)展。為了使這種責(zé)任有限化，為了確保智能合約的違約責(zé)任能夠依法追究，有必要承認(rèn)機器人的主體資格。實際上，只有當(dāng)機器人有主體資格時，以人工智能來制衡人工智能的構(gòu)想才能落到實處。

鑒于上述問題意識，上海交通大學(xué)中國法與社會研究院攜手人工智能研究院設(shè)立了人工智能治理與法律研究中心，旨在對人工智能時代的治理方式和法律制度設(shè)計進(jìn)行深入考察，從理論和實踐兩個方面提出中國方案。根據(jù)這一目標(biāo)，該中心將加強文理交叉融合的跨學(xué)科、跨國界合作，圍繞人工智能治理的原則、倫理、政策、技術(shù)標(biāo)準(zhǔn)以及法律法規(guī)積極開展研究和交流，在科技創(chuàng)新的背景下推動制度創(chuàng)新，進(jìn)而探索與人工智能時代相適應(yīng)的法治模式。本書就是中心成員以及合作伙伴的初步研究成果的蒐集，以便倡導(dǎo)相關(guān)學(xué)術(shù)活動、奠定今后更上層樓的基礎(chǔ)。該書分為四大部分，即“智能網(wǎng)絡(luò)化社會的法”“司法大數(shù)據(jù)與電子法院”“從數(shù)字經(jīng)濟到數(shù)據(jù)法律”以及“信息溝通技術(shù)與平臺治理”，由二十八章構(gòu)成。所有論文的作者簡歷和出處一覽請參閱卷末附錄。具體的編輯事務(wù)是由上海交通大學(xué)法學(xué)院博士研究生林浩舟、陳肇新、衣俊霖、趙帥分擔(dān)的，特別是衣俊霖在梳理、核實、校對、調(diào)整格式等方面付出了很多辛勞，特此致謝。還要感激上海三聯(lián)出版社杜鵑編輯高度專業(yè)化的技術(shù)處理，我們的合作總是非常愉快并富有成效。

季衛(wèi)東

2020年8月28日