2020年8月29日上午，“紐約聊齋”第12期云沙龍成功舉辦。中國法與社會研究院院長、上海交通大學文科資深教授季衛(wèi)東做了題為“人工智能時代的治理與法治創(chuàng)新”的報告。美國康奈爾大學法學院於興中教授與談，美國福坦莫大學洪朝輝教授、北京大學沈巋教授點評。
以下根據(jù)報告錄音整理：
季衛(wèi)東教授：很高興有機會到紐約聊齋來與各界朋友交流。這個名稱以及“聊齋志異”的故事似乎暗示我在這里應(yīng)該講點什么類似鬼狐仙靈的奇異主題。恰巧新聞報道馬斯克的最新發(fā)明是把人工智能的芯片嵌入動物乃至人的大腦中，通過腦機接口和算法來讓動物或人能夠隨心所欲。近些年人工智能成為社會熱點，在各方面的應(yīng)用以及相關(guān)產(chǎn)業(yè)的發(fā)展日新月異，給人類帶來很多沖擊、興奮以及不安。與此同時，人工智能也已經(jīng)滲透到日常生活世界，就像狐貍精悄悄溜進人們的書齋、琴房以及市井。所以，我決定選擇關(guān)于數(shù)字化、數(shù)據(jù)驅(qū)動、人工智能的治理以及法制創(chuàng)新的話題。這也是我這些年關(guān)注的一個研究方向。上海交通大學人工智能研究院攜手中國法與社會研究院成立全國第一個“人工智能治理與法律研究中心”，今年7月10日在世界人工智能大會法治論壇上舉行了揭牌儀式，由我擔任負責人，也想借此機會介紹一下我們的問題意識和發(fā)展目標。
從自己的專業(yè)法社會學以及數(shù)字化的信息溝通技術(shù)（ICT）導致的法律制度創(chuàng)新的角度切入，我在這里簡單論述以下四個問題：1.人工智能引起的法與社會變遷；2.自動駕駛的權(quán)利、責任以及倫理；3.數(shù)據(jù)里的經(jīng)濟價值和人格尊嚴；4.智能網(wǎng)絡(luò)的平臺治理與代碼支配。
（一）人工智能引起的法與社會變遷
日常生活各方面的數(shù)字覆蓋：特別是在2016年AlphaGo擊敗人類職業(yè)圍棋頂尖選手之后，人工智能開始引起社會的廣泛關(guān)注。機器學習、深度學習使人工智能發(fā)生質(zhì)變，進化后的人工智能又使人類社會發(fā)生質(zhì)變。人工智能引起的社會變化主要有哪些方面？我認為最主要的是數(shù)字覆蓋，使世界具有實體和虛擬雙重結(jié)構(gòu)，使我們越來越普遍地生活在電腦空間里。
在中國，日常生活各方面的數(shù)字化速度非?？欤采w面也非常廣。到現(xiàn)在大部分日本人還是傾向于用現(xiàn)金在實體店購買商品。2009年我回國后才知道中國的年輕人那時已經(jīng)很習慣在淘寶網(wǎng)購物，價格實惠，也很省事和節(jié)約時間。在淘寶網(wǎng)購物使用支付寶，是數(shù)字貨幣的一種形態(tài)。后來又有微信支付，現(xiàn)在上海的地下車庫都采取支付寶或微信支付的方式掃碼付費。在餐廳、早點攤位以及農(nóng)貿(mào)市場人們也廣泛采取移動支付方式。快遞和外賣也特別流行，尤其在新冠疫情防控期間，有利于在保持社交距離的狀態(tài)下滿足日常生活需求。還有交通一卡通，包括車輛電子保險的普及等等。從這些現(xiàn)象可以看到，中國的日常生活越來越數(shù)字化，幾乎被數(shù)字全覆蓋了。
這次疫情更進一步地加強了這個數(shù)字覆蓋過程，如群體的體溫檢測、健康碼、人臉識別驗證，結(jié)果導致整個社會被數(shù)字化技術(shù)全面覆蓋。這是一個非常重要的變化。數(shù)字全覆蓋的社會使得我們的日常生活世界產(chǎn)生了電子復制版，所有的活動痕跡可以記錄下來，轉(zhuǎn)變成大數(shù)據(jù)。這樣就可以在非常廣泛的領(lǐng)域采用人工智能對大數(shù)據(jù)進行分析，進行預測。在這里，數(shù)據(jù)的規(guī)模越大、質(zhì)量越好，人工智能的功能也就越強、可預測程度也就越高。總之，這就是當今社會、尤其是中國發(fā)生的一種非常本質(zhì)性的變化：無所不在的數(shù)字覆蓋和智能躍進。
經(jīng)濟活動的重點對象從資源到數(shù)據(jù)：在數(shù)字覆蓋和智能躍進的背景下，數(shù)據(jù)的經(jīng)濟價值就會越來越明顯地呈現(xiàn)出來。例如淘寶網(wǎng)，可以根據(jù)消費場景的行蹤，分析購買人的經(jīng)濟狀況、行為方式、目前的需求、偏好，再根據(jù)這些信息和演算結(jié)果推送出相應(yīng)的商品廣告、確定生產(chǎn)計劃以及營銷模式。也就是說，在數(shù)字覆蓋的背景下，企業(yè)可以通過人工智能對大數(shù)據(jù)的分析和預測揭示個人的隱私、推斷社會的發(fā)展趨勢，獲得競爭的優(yōu)勢以及盈利的機遇。在這個意義上可以說，數(shù)據(jù)是有經(jīng)濟價值的。馬云曾經(jīng)說過：數(shù)據(jù)就是21世紀的石油。數(shù)據(jù)就是人工智能社會的生產(chǎn)資料。數(shù)字化的經(jīng)濟就是由大數(shù)據(jù)和人工智能來驅(qū)動的。人工智能系統(tǒng)的聯(lián)結(jié)、交錯、互動，會構(gòu)成智能網(wǎng)絡(luò)化社會。通過智能技術(shù)收集數(shù)據(jù)、應(yīng)用大數(shù)據(jù)進行分析和預測，從而決定社會運作方式，我們的整個社會已經(jīng)變成了一個數(shù)據(jù)驅(qū)動的社會。
在這里，數(shù)據(jù)不僅具有經(jīng)濟價值，甚至還成為溝通的媒介、交易的通貨。顯而易見，中國在數(shù)據(jù)的收集和利用方面是具有獨特優(yōu)勢的。在中國，大約70%的優(yōu)質(zhì)數(shù)據(jù)由國家掌握，沒有很強的隱私意識和排他性的權(quán)利設(shè)置來構(gòu)成數(shù)據(jù)的壁壘，這就使各個領(lǐng)域的數(shù)據(jù)更容易匯集到一起進行處理。也就是說，數(shù)據(jù)空間沒有被過于強勢的數(shù)據(jù)主體格局、沒有形成小國寡民的碎片化狀態(tài)。在這樣的狀況下，數(shù)據(jù)規(guī)模與人工智能功能的正比例關(guān)系法則就會更加強有力。數(shù)據(jù)的數(shù)量越多、質(zhì)量越高，人工智能的算法和算力就會越發(fā)達，數(shù)據(jù)的經(jīng)濟價值也就越高。所以，中國的數(shù)字經(jīng)濟增長的速度和效益是非常驚人的。當然，在這里我們必須指出，還是不能忽視個人信息安全和隱私保護不足等問題。應(yīng)該找到一種兼顧數(shù)字經(jīng)濟發(fā)展與個人信息和隱私保護的制度安排。
為了保護個人信息安全、隱私以及數(shù)據(jù)權(quán)利，為了促進網(wǎng)絡(luò)交易平臺的發(fā)展，歐盟曾經(jīng)做過一個很有代表性的嘗試。在1996年，歐盟制定了一個嚴格保護數(shù)據(jù)庫權(quán)利的規(guī)定，試圖賦予數(shù)據(jù)以排他性的所有權(quán)，試圖通過絕對所有權(quán)的觀念來確保數(shù)據(jù)的收集和利用限定在法治的軌道上，防止濫用數(shù)據(jù)的事態(tài)發(fā)生。但是，這個法律規(guī)定的實施效果并不理想；在歐盟，迄今為止還沒有出現(xiàn)像中國BAT(百度、阿里巴巴、騰訊)、美國GAFAM（谷歌、亞馬遜、臉書、蘋果、微軟）那樣的數(shù)字科技交易平臺巨頭。因為數(shù)據(jù)或者信息本身具有流動性，如果賦予排他性的數(shù)據(jù)庫權(quán)利以及數(shù)據(jù)所有權(quán)，就會犧牲流動性，壓抑數(shù)字經(jīng)濟以及網(wǎng)絡(luò)交易平臺的發(fā)展。但是，我們也不能把隱私和個人信息安全作為大數(shù)據(jù)和人工智能時代經(jīng)濟發(fā)展的犧牲品，因為這樣會摧毀自由的基礎(chǔ)。關(guān)鍵是如何在功利主義與個人自由之間找到適當?shù)钠胶恻c，防止或減少我們?yōu)閿?shù)字覆蓋付出的隱私代價。
市場交易的形態(tài)從物品到服務(wù)：市場交易的形態(tài)也發(fā)生了非常大的變化。比如之前的影碟、光盤，是影視和音樂發(fā)燒友的重要財產(chǎn)，大家都會設(shè)法通過購買來收藏。但到了現(xiàn)在，可以直接在網(wǎng)上下載收看和收聽，只需臨時購買網(wǎng)絡(luò)服務(wù)，而不需要擁有實體的產(chǎn)品。還有轎車，也曾經(jīng)是個人的重要財產(chǎn)乃至身份的象征，但是現(xiàn)在網(wǎng)約車盛行，是否擁有一輛漂亮的轎車并不那么重要了。在這個意義上，出行的座駕也由實體的物件轉(zhuǎn)化成臨時購買的交通服務(wù)形態(tài)。既有的現(xiàn)代法律體系都強調(diào)所有權(quán)，強調(diào)以物品為基礎(chǔ)的個人權(quán)利的保障。在智能網(wǎng)絡(luò)化社會，當市場交易的主要形態(tài)從物品轉(zhuǎn)向服務(wù)時，光碟就消失了，人們覺得買車不如租車，消費者對物品的占有欲望勢必減弱。與此相應(yīng)，以物權(quán)為基礎(chǔ)的法律體系也勢必發(fā)生非常大的變化，商場監(jiān)管的方式同樣也會與過去大不相同。例如阿里巴巴的平臺戰(zhàn)略促使大量廠商、供應(yīng)商都到這個巨型平臺上來營銷，這就會帶來法律規(guī)制的新問題。為了避免阿里巴巴自己的商譽被透支、濫用，為了保障服務(wù)的規(guī)格和質(zhì)量，杜絕假冒偽劣商品，這個平臺就必須肩負起監(jiān)管的職責。在某種意義上也可以說，交易平臺在相當程度上已經(jīng)代替政府發(fā)揮監(jiān)管的作用，這也是行政服務(wù)民營化、市場化的一種方式。當然，與此同時政府還要對巨型的交易平臺進行監(jiān)督和管理，防止壟斷和不正當競爭。
社會系統(tǒng)變化的三個基本特征：由于物聯(lián)網(wǎng)（特別是5G物聯(lián)網(wǎng)）的發(fā)達、人工智能廣泛的應(yīng)用，導致了不同人工智能系統(tǒng)之間發(fā)生密切的關(guān)系，互相作用，導致了智能網(wǎng)絡(luò)化的趨勢。人工智能系統(tǒng)各自的目標不同，有可能會發(fā)生沖突，它們的互動關(guān)系有可能導致的出乎意料的后果。本來人工智能是要進行預測的，但是在人工智能網(wǎng)絡(luò)化、人工智能可以深度學習的情況下，不可預測性、不可解釋性的問題反倒頻繁發(fā)生。在有些場合，人工智能越發(fā)達，復雜化程度越高，達到的結(jié)果精確性越強，人們反倒很難準確地說明這到底是怎樣實現(xiàn)的。這就是所謂算法黑箱化。從人工智能治理的角度來看，我們當然希望算法是透明的、可以解釋的，但實際上卻很難解釋清楚算法的原理和機制，因果關(guān)系無法驗證。這就使得問責原則很難落實。所以算法黑箱化是我們要關(guān)注的社會系統(tǒng)實質(zhì)性變化的第二個方面。深度學習使得人工智能超出人類預設(shè)的計劃和程序，能夠自己歸納出新的行為模式，并根據(jù)這樣的模式進行運作。在這里，自然而然會導致對人工智能發(fā)展的發(fā)展的一個憂慮，即失控。也就是說，人工智能系統(tǒng)的觀察、學習、思考、判斷、行動能力提高之后，就有可能產(chǎn)生自我意識和獨立性，機器自主化了，人類無法對人工智能進行有效的控制。機器人還有可能造反，轉(zhuǎn)而傷害人們。社會系統(tǒng)的上述三種變化，都會影響到制度安排，對法律體系構(gòu)成嚴峻的挑戰(zhàn)。
在很多方面似乎代碼取代法律：在人工智能時代，技術(shù)規(guī)格往往具有非常重要的意義。有時候，代碼可能使法律中現(xiàn)有的權(quán)利不能按規(guī)定實施，要進行改變。代碼的框架有可能使得原來的法律制度安排不得不發(fā)生一些變化。在有些場合，事實已經(jīng)先行，使得法律與現(xiàn)實脫節(jié)的問題凸顯出來。人工智能在越來越多地滲透到社會當中去的時候，算法本身就決定了很多事物的運行方式。有一種說法叫做算法獨裁，就是指人工智能的算法、軟件、代碼框架支配一切的事態(tài)。在這樣的情況下，法律體系確實面臨著嚴峻的挑戰(zhàn)。包括區(qū)塊鏈對密碼資產(chǎn)通過網(wǎng)絡(luò)共識的方法進行管理，這也是與過去所設(shè)想的法律支配是不一樣的。
經(jīng)濟和社會全面的數(shù)字化迫使法律采取應(yīng)對舉措：目前中國及其他國家，人工智能應(yīng)用系統(tǒng)發(fā)展的速度非?？?，數(shù)字經(jīng)濟似乎處于野蠻生長的階段。然而如果過早地進行法律規(guī)制，采取強制性措施管理大數(shù)據(jù)產(chǎn)業(yè)和人工智能開發(fā)，就有可能壓制科技以及數(shù)字經(jīng)濟。另一方面，人們也會抱有深深的憂慮，因為人工智能的高歌猛進，很有可能把人類社會鎖進一個特定的路徑相關(guān)，將來想退也退不出來，或者退出時花費的成本太大。因此，我們應(yīng)該及時對物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的治理和制度設(shè)計進行思考和討論，采取軟硬兼施的適當對策。其中一個非常重要的應(yīng)對方式就是強調(diào)人工智能開發(fā)的倫理、原則、政策以及法律的綜合治理。如果片面采取法律的規(guī)制措施，有可能限制人工智能技術(shù)以及相關(guān)數(shù)字經(jīng)濟的發(fā)展，所以我們認為在現(xiàn)階段軟法比硬法更重要。我認為，只有通過這種方式，才能更好地適應(yīng)目前既要保護人工智能發(fā)展，又要對其進行適當限制、防止野蠻生長的社會需要。上海交通大學人工智能治理與法律研究中心聚焦算料（大數(shù)據(jù)）、算法以及算力中的倫理與法理關(guān)系問題，試圖構(gòu)建相應(yīng)的知識圖譜，推動人工智能時代的制度創(chuàng)新。國內(nèi)法學界以及相關(guān)業(yè)界都非常關(guān)注這方面的進展。最近上海的商湯智能產(chǎn)業(yè)研究院和北京的曠視科技有限公司等來與我們洽談在人工智能的治理和數(shù)據(jù)法律等方面開展合作。另外，人工智能技術(shù)也廣泛應(yīng)用到法律適用的過程之中，特別在司法領(lǐng)域推進迅猛，包括電子法院、智慧司法、基于大數(shù)據(jù)的文書自動生成等等。人工智能作為法律決策輔助系統(tǒng)的嘗試各國都在積極行動。人工智能直接用于法律決策的情況更復雜一些，涉及很多技術(shù)上、價值上的障礙，目前還處于初級階段，還在摸索之中。
（二）自動駕駛的權(quán)利、責任以及倫理
在上述背景下，我們再來探討一些具體的問題，先看自動駕駛。今年6月27日，上海開始啟動滴滴自動駕駛網(wǎng)約車的服務(wù)。之前長沙試行自動駕駛網(wǎng)約車遭到出租車司機的集體抵制，美國亞利桑那州的自動駕駛車輛引起人身事故后各國的態(tài)度變得更加慎重。無論如何，自動駕駛普及之前還有很多法律問題有待解決。首先要考慮共享乘車服務(wù)提供者的資質(zhì)和信用。目前BAT都在提供自動駕駛領(lǐng)域的服務(wù)，它們的戰(zhàn)略會影響到自動駕駛的服務(wù)狀況，也會影響權(quán)利義務(wù)的設(shè)置。其次，現(xiàn)有的《道路交通安全法》第19條規(guī)定駕駛者的資格要件，人工智能是否也需要獲得駕駛執(zhí)照？第三，如何界定自動駕駛車輛的智能化級別與法律的關(guān)系？一旦導入人工智能，開始只是發(fā)揮輔助性作用，或者部分操作自動化；但到了附條件自動駕駛或者完全自動駕駛，軟件系統(tǒng)本身就成為責任主體。如果出了問題，是找汽車廠商、程序開發(fā)商，還是數(shù)據(jù)提供商追究賠償責任？這個責任如何認定？如何分配？第四，人工智能的利用者具有不同的類型，但無論是消費利用還是商務(wù)利用，就法律而言，似乎都應(yīng)該采取利用者免責的原則。
對于自動駕駛而言，利用者基于合同接受服務(wù)。這時交易的對象不是車輛，而是移動服務(wù)，車輛只是人們移動而提供的一種服務(wù)形態(tài)。自動駕駛汽車的主要特征是使用了人工智能軟件。如果車輛在抵達目的地前拋錨了，意味著服務(wù)終結(jié)還是換乘其他出租車？在交易對象是車輛時由買主承擔后來的風險，但在交易對象是服務(wù)時是不是由賣主永遠承擔后續(xù)風險？法律上缺乏明文規(guī)定。按理應(yīng)該把硬件和軟件相區(qū)分。如果問題出在軟件，你就不能追究汽車廠商的產(chǎn)品責任。但是，嵌入車輛的軟件的更新責任又在誰呢？是汽車廠商、還是軟件供應(yīng)商？在車輛故障或因自動駕駛軟件瑕疵引起的事故時，會引起一系列復雜的新問題。還有，自動駕駛的人類監(jiān)控和介入如何進行？如果發(fā)生緊急情況，突然由自動改為手動時也會出現(xiàn)混亂，在這種場合責任如何追究？既然上海已經(jīng)有自動駕駛網(wǎng)約車上路了，這些問題就會迫在眉睫，需要有關(guān)機關(guān)及時調(diào)研和立法，制定自動駕駛的交通安全制度的設(shè)計方案。
（三）數(shù)據(jù)里的經(jīng)濟價值和人格尊嚴
再看數(shù)據(jù)的法律問題光譜帶。不言而喻，人工智能離不開數(shù)據(jù)。人工智能的應(yīng)用、進一步發(fā)展、預測能力的提高都有賴于數(shù)據(jù)。數(shù)據(jù)和人工智能之間存在一種正比例的關(guān)系。數(shù)據(jù)的法律問題光譜帶包括兩端：一端涉及財產(chǎn)權(quán)（數(shù)據(jù)的經(jīng)濟價值、數(shù)據(jù)處理模型和算法等等的知識產(chǎn)權(quán)），另一端涉及個人信息安全、隱私的保障。在現(xiàn)階段的中國，人口規(guī)模大約十四億、網(wǎng)民人數(shù)大約八億，每天都會產(chǎn)生大約900兆字節(jié)的海量數(shù)據(jù)。
根據(jù)2018年的統(tǒng)計，中國大數(shù)據(jù)產(chǎn)業(yè)相關(guān)人才的規(guī)模全球第一，占比59.5%，比第二位的美國高出37.1個百分點。更值得留意的是，中國數(shù)據(jù)的公有化程度極高，大約70%以上的優(yōu)質(zhì)數(shù)據(jù)資源由國家掌控。這種狀況有利于打破各種局部疆界充分調(diào)動數(shù)據(jù)資源來發(fā)展產(chǎn)業(yè)經(jīng)濟，也勢必促進人工智能在國家治理和法律制度運作方面的廣泛應(yīng)用，但也把個人數(shù)據(jù)安全和隱私保護問題以更加尖銳的形式呈現(xiàn)出來。物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的“鐵三角”，在某些場合很可能剝奪公民對個人信息的自我處分權(quán)（隱私權(quán)）、人格尊嚴以及法律面前平等的權(quán)利。例如常見的電商和網(wǎng)絡(luò)平外把個人消費信息作為學習數(shù)據(jù)使用，分析行為樣式并發(fā)布對標廣告，這是否已經(jīng)構(gòu)成對隱私權(quán)的侵犯是需要認真考慮的。特別是遺傳信息包含那些與生俱來的特性，一旦由人工智能進行解讀和外泄就很容易影響個人入學、就業(yè)以及加入商業(yè)保險，大幅度減少某些公民的人生機遇和選擇空間。
在上述兩端之間，還存在著數(shù)據(jù)經(jīng)濟價值的實現(xiàn)和利益分配問題。巨型的網(wǎng)絡(luò)交易平臺利用數(shù)據(jù)產(chǎn)生利潤，但數(shù)據(jù)主體是誰？因數(shù)據(jù)而產(chǎn)生的利潤的分配是否公正？這些都是非常復雜的法律問題。關(guān)于人工智能引起收入懸殊的問題，有人建議通過向機器人征稅，但中國更強調(diào)的是通過財政部門來實施合理的、精準的社會二次分配。在這里，制度設(shè)計不得不面對某種兩難困境：注重個人信息和隱私的保護就有可能妨礙數(shù)據(jù)以及人工智能方面的產(chǎn)業(yè)發(fā)展，注重數(shù)據(jù)驅(qū)動的經(jīng)濟效益卻又容易侵害個人尊嚴和隱私，甚至引發(fā)信息安全問題。要兼顧這兩個方面，就需要認真對待制度設(shè)計問題。
值得深入探討的一種對策是：中國應(yīng)該考慮設(shè)立數(shù)據(jù)托管機構(gòu)，對寄存?zhèn)€人數(shù)據(jù)的主體給予適當?shù)姆e分獎勵。數(shù)據(jù)托管機構(gòu)對數(shù)據(jù)進行匿名化處理，企業(yè)可以在通過資質(zhì)審查后采取繳納使用費的方式來獲得和處理數(shù)據(jù)，而數(shù)據(jù)主體也可以適當分享數(shù)據(jù)產(chǎn)業(yè)的利益。在日本，已經(jīng)出現(xiàn)了設(shè)立復數(shù)信息銀行的構(gòu)想，個人可以像存款那樣把信息儲蓄到銀行，企業(yè)向信息銀行借貸個人信息。在中國，也許公共性質(zhì)的數(shù)據(jù)托管機構(gòu)更適合國情。
（四）智能網(wǎng)絡(luò)的平臺治理與代碼支配
美國學者勞倫斯·萊斯格教授在1999年提出一個命題：Code is law,代碼就是法律。如今這樣的例子很多。比如，為了保護電視節(jié)目的著作權(quán)，規(guī)定所有的DVD制作按某個技術(shù)標準只能復制一次，不能再復制到其他DVD上，以防不法者盈利。但這樣也會妨害正常的學習和欣賞。無論如何，這種現(xiàn)象說明技術(shù)規(guī)格在相當程度上取代了法律來決定人們的行為方式。目前上海實行的“一網(wǎng)管通”上有政府機關(guān)的幾乎所有服務(wù)項目，健康碼成為一個非常方便的應(yīng)用場景。然而有關(guān)信息收集、數(shù)據(jù)處理的權(quán)限和程序卻并沒有明確，所依據(jù)的法律根據(jù)也不清楚，并且可以瞬間改變。實際上，通過網(wǎng)絡(luò)平臺進行數(shù)字化治理以及經(jīng)濟活動，各種服務(wù)關(guān)系很難用法律來明確界定權(quán)利、義務(wù)關(guān)系。由此可見，人工智能的技術(shù)規(guī)格和數(shù)據(jù)的安全分級標準的制定工作已經(jīng)迫在眉睫，立法也必須及時跟上。在這種背景下，也許將出現(xiàn)“代碼與法律并行”的局面。中國存在“禮法并行”的文化傳統(tǒng)，還有現(xiàn)代的“法律與政策并行”實踐經(jīng)驗，對于代碼與法律并行的治理方式也許不會產(chǎn)生抵觸。正是在這里，我們可以找到治理方式創(chuàng)新的契機或者切入點。
眾所周知，現(xiàn)代法治特別強調(diào)的是自由、個人權(quán)利的保障。在這里，自由是以隱私和個人財產(chǎn)權(quán)為基礎(chǔ)。為此需要分權(quán)制衡的機制設(shè)計，對權(quán)力行使進行監(jiān)督和限制。由于人工智能的高效性，我們要通過人工來對人工智能進行制衡是有困難的。當人工智能廣泛應(yīng)用于政治決策和法律決策，當算法黑箱化，對權(quán)力的監(jiān)控和問責就會變得比較困難。在這樣的情況下，用人工智能來對人工智能進行制衡，用技術(shù)來對技術(shù)進行制衡也許就是一個合理的選項，這樣的分權(quán)制衡機制或許今后將變得非常重要。在這里，值得特別注意的數(shù)字化信息溝通技術(shù)是區(qū)塊鏈。區(qū)塊鏈最初是與比特幣、數(shù)字通貨聯(lián)系在一起的。在這次疫情防控中，中國已經(jīng)把區(qū)塊鏈協(xié)議用于社區(qū)治理，包括信息登記、體溫檢測、口罩發(fā)放等。從人工智能時代防止對個人隱私的侵犯、通過制衡機制設(shè)計解決法律問題的角度來看，區(qū)塊鏈可能會發(fā)揮關(guān)鍵的作用。簡單來說，區(qū)塊鏈協(xié)議的本質(zhì)在于使隱私黑箱化，并使系統(tǒng)中樞工作完全自動化。通過挖礦方式，為人們利用區(qū)塊鏈提供誘因，并通過區(qū)塊鏈達成網(wǎng)絡(luò)共識。在這個過程中通過具體的智能合約方式，明確各自的權(quán)利和義務(wù)。人工智能技術(shù)的算法黑箱化，區(qū)塊鏈技術(shù)的隱私黑箱化，兩者形成相反相成的關(guān)系，這是一種非常有趣的格局，會對今后的社會治理和法律秩序產(chǎn)生深刻的影響。
（五）結(jié)論
總而言之，人工智能是一個規(guī)則嵌入系統(tǒng)，它可促使法律的規(guī)范嚴格執(zhí)行，形成硬法。但是，在智能網(wǎng)絡(luò)化的情況下，不同人工智能系統(tǒng)之間的互動關(guān)系非常頻繁而復雜，單憑硬法不免有些簡單粗暴，必須借助軟法來補充和協(xié)調(diào)，需要加強溝通和程序公正。另外，在算法黑箱化的情況下，人工智能系統(tǒng)越復雜出現(xiàn)操作失誤的可能性就越大，問責也變得越困難。如果讓人工智能系統(tǒng)的開發(fā)者、制造者為算法失誤承擔無限的連帶責任，就會妨礙人工智能的發(fā)展。為了使這種責任有限化，為了確保智能合約的違約責任能夠依法追究，有必要承認機器人的主體資格。實際上，只有當機器人有主體資格時，以人工智能來制衡人工智能的構(gòu)想才能落到實處。
最后，再梳理一下與人工智能相關(guān)的法律問題，可以分為裝置、網(wǎng)絡(luò)、數(shù)據(jù)、算法、服務(wù)等五個方面進行探討。在這樣的背景下，人工智能引起的法律范式創(chuàng)新有什么呢？一是從物權(quán)到服務(wù)評價的權(quán)利觀念變化；二是從法律到代碼的規(guī)范形態(tài)變化；三是承認機器人權(quán)，以便追究智能合同的違約責任并使人工智能開發(fā)者、生產(chǎn)者的責任有限化。顯然，我們面對的法律體系與過去大不相同的。進入2020年以來，我們在不斷見證歷史的巨變。讓我們也一同見證人工智能時代的法制巨變吧。謝謝！
於興中教授：季教授的講座題目叫做“人工智能時代的治理與法制創(chuàng)新”。我的理解是，我們現(xiàn)在所處的時代是一個大變革的時代。這個時代可以有不同的描述：人工智能時代，數(shù)字時代、算法或者數(shù)據(jù)的時代等等。季教授的講座大致涵蓋了這些不同的說法。這里的治理，我的理解有兩層意思：一是利用人工智能來治理社會、治理國家；二是人工智能本身也需要治理。這兩層意思都包含在季教授的演講之中。我很喜歡季教授用的詞“法制”，而不是“法治”。他的講座從宏觀把握，高屋建瓴講了四個問題，實際上也是四個領(lǐng)域，是人工智能要研究的幾個主要的領(lǐng)域，這幾個領(lǐng)域與法律也有很大的關(guān)系。季教授在很短的時間內(nèi)，給我們做了一個提綱挈領(lǐng)的闡釋，理論結(jié)合實際，內(nèi)容翔實，信息量非常大。提出了很多問題，也作出了回答，重點強調(diào)人工智能對法制創(chuàng)新的重要作用和可能性。
我就這幾個領(lǐng)域中存在的一些問題，跟大家匯報一下自己的看法。
第一個問題， 關(guān)于人工智能。人工智能對法律制度會有多大的影響，取決于人工智能能走多遠。人工智能是人的智能的一種表現(xiàn)形式，不是外來的東西，是人本身的智能顯現(xiàn)投射出來的。想要了解人工智能，首先要了解人的智能。什么是人的智能就成為一個關(guān)鍵問題。但是到現(xiàn)在為止，人們在這個問題上還是沒有達成一致。有些人退而求其次，不去定義人工智能到底是什么，只是對其進行分類。哈佛大學教育研究院的Gardner教授，提出過一種“多元的智能理論”，也就是一種復合性的智能理論。他把智能分為8類，如語言的智能、數(shù)理邏輯的智能、空間的智能、肢體感覺的智能、音樂的智能、內(nèi)心的智能等等。還有更多其他的可能分類。從現(xiàn)在人工智能的發(fā)展情況來看，好像只是反映出了數(shù)理和邏輯的概念，至于肢體感覺的智能、空間的智能、音樂的智能、內(nèi)心的智能還是比較復雜、比較難的，人工智能還沒有達到這種程度。從這個意義來說，人工智能還有很大的局限性，往前走，走到什么程度，現(xiàn)在還不好預測，也許在某個節(jié)點上面，就會停下來。而且據(jù)我的觀察，最近一段時間，人工智能可能又會像以前一樣進入另一個冬天，那就是說目前在人工智能基礎(chǔ)研究方面、深度學習方面好像沒有太大的進展，而現(xiàn)在炒得比較紅火的，基本上還是在應(yīng)用方面。未來人工智能到底對法制產(chǎn)生多大的影響、發(fā)揮什么樣的作用？現(xiàn)在可能還比較難說。這是我要談的第一個問題。
第二個問題，我想講的是，自動駕駛和自動駕駛車的權(quán)利和義務(wù)。目前來看，有三種辦法來對待它。一種是產(chǎn)品責任法，這個用的比較多。車是一個產(chǎn)品，出了問題按照產(chǎn)品責任法分配責任。第二個是侵權(quán)法，這兩種比較容易以現(xiàn)有的法律來衡量。第三種比較麻煩，就是，對機器人或自動駕駛車輛賦予人格的權(quán)利，這可以分為獨立和非獨立兩類，就像成年人和小孩。這種做法會有很多問題：道德上的難題，哲學上的難題，以及如何理解生命，如何理解權(quán)利主體等等。有一種說法是，機器人或自動駕駛汽車可能會產(chǎn)生自己的意識。這個說法的可信度如何，意識出現(xiàn)后會不會出現(xiàn)自由意志，能不能依照自己的自由意志來做決定，承擔一定的責任，這些都是很多人關(guān)心的問題。有學者著書立說，專門探討人工智能的意識問題，指出要想了解人工智能會不會有意識，首先必須了解人的意識。但截至目前，我們對人的意識問題一籌莫展。甚至連人的意識到底在mind, brain還是在heart里，我們自己還沒搞清楚。侈談人工智能的意識，就更困難了。比較樂觀的人會說，我們現(xiàn)在已經(jīng)到了一個新的時代，即后人類中心主義時代。在這個時代，我們的權(quán)利觀、對生命、對世界萬物的看法都發(fā)生了很大的變化，我們的看法不一樣了，我們給動物、山川草木賦予權(quán)利，我們也可以給機器人賦予權(quán)利。這是現(xiàn)在比較流行的后人類中心主義時代的說法。
第三個問題，如何對待數(shù)據(jù)。數(shù)據(jù)一面是人權(quán)，另一面是財產(chǎn)權(quán)，他們之間是一個矛盾。從人權(quán)的角度看，數(shù)據(jù)是不能買賣的，但從財產(chǎn)的角度看，則可以?？赡苡行┤擞X得財產(chǎn)權(quán)也是人權(quán)，但在人權(quán)研究領(lǐng)域里，一般不包括財產(chǎn)權(quán)。歐盟對數(shù)據(jù)的態(tài)度很有意思。在歐盟的《通用數(shù)據(jù)保護條例》（GDPR）里，規(guī)定了所謂數(shù)據(jù)的主體權(quán)（data subject rights）。這個概念包含執(zhí)行權(quán)、訪問權(quán)、更正權(quán)、刪除權(quán)、不受自動化抉擇的權(quán)利等等，主要是一種人權(quán)。2020年2月，歐盟委員會公布了新的歐洲數(shù)據(jù)處理的策略，采取了截然不同的態(tài)度。新政策認為數(shù)據(jù)是一種重要的、可以共享的資產(chǎn)，而且共享數(shù)據(jù)是公民的義務(wù)。從保護個人隱私，到促進數(shù)據(jù)共享成為公民義務(wù)，反映了數(shù)據(jù)的兩重性在歐盟的法律中的體現(xiàn)。如何對待數(shù)據(jù)是一個很大的問題，季教授在講座中提到了信托的辦法。歐盟現(xiàn)在采取了信托的辦法，有些國家在試用，信托的辦法有可能會成功。
第四個問題，法律與代碼問題。自從萊斯各（Lawrence Lessig）1999年寫了Code and other laws這本書以后，法律與代碼的問題日漸引起人們注意。但是，代碼在何種程度上可以成為法律，法律在何種意義上可以被看做代碼，是需要仔細探討的。 很有可能，代碼并不像萊斯各說的那么重要。2006年，Code2.0這本書出版后，書名中的“and other laws”被刪掉了。這大概也反映一種認識上的變化?，F(xiàn)在代碼雖然已經(jīng)在有些領(lǐng)域廣泛使用，比如在區(qū)塊鏈、便捷合約（smart contract），加密貨幣，以及自我規(guī)制、程式等方面，但從這還看不出代碼的重要性及分量。而季教授指出的代碼在技術(shù)治理方面的作用，顯然更加重要。用科技的手段進一步去執(zhí)行法律，此時，科技手段就是一種代碼。比如，可以把知識產(chǎn)權(quán)法規(guī)定的法律條文直接變成代碼，運用于監(jiān)管場景。算法監(jiān)管也是屬于技術(shù)治理的內(nèi)容之一。在這個意義上來說，代碼是不可小覷的，代碼就是法律； 法律就是代碼。但代碼是否能夠取代法律還需要進一步思考。不過，季教授最后指出的，對于中國人來說，法律和代碼這兩種規(guī)范并存并不難接受，因為中國治理文化中就有“禮法結(jié)合”的傳統(tǒng)。我贊成這種觀點，我之前將這種做法稱之為規(guī)范二元論，即法律與道德這兩種規(guī)范系統(tǒng)并存，雙管齊下。當然，法律與代碼并存的意義可能在形式上更重要。
洪朝輝教授：我想側(cè)重分析一下人工智能對人我們?nèi)祟愃枷氲奶魬?zhàn)。
第一，人工智能有可能抑制和弱化人的思想。AI不僅不能代替人的思想，有可能抑制思想。首先，AI有可能弱化人的三種行為：情、意、靈，有感情、會意念、出靈感的能力。其次，機器無法取代人的三大皇道：主觀審美力（Aesthetic）；思想創(chuàng)造力（Creation)；道德同理心（Empathy)；ACE:皇道。再次，機器像人不可怕，可怕的是人像機器，但更可怕的是人分不清機器人與自然人的區(qū)別；人機趨同。
第二，長期使用和依賴AI，可能導致人的思想功能退化、異化。直立行走，是猿變?nèi)说年P(guān)鍵；如今，人類低頭、埋首電子產(chǎn)品，很少站立仰望，是否可能再度退化到猿人的視野和境界？成為新一代的變相“類人猿”？
第三，AI有可能控制人類思想、解構(gòu)社會。當初智人能夠戰(zhàn)勝強大的尼安德特人之一大原因是智人善于合作的威力，因為智人善于制造想象的事實、虛無的承諾和法律的虛擬(legal fiction)。他們主要善于講故事，尤其是使人相信的故事。這樣，只要改變故事的內(nèi)容，就能改變?nèi)祟惡献鞯膬?nèi)容和方式。如今，AI能夠更有效地改寫故事和理想，因為現(xiàn)代人類的合作意愿和能力日益退化。過去
人類主要靠“三師” （巫師、牧師、導師）來建立理想、取得合作，但如今人類已經(jīng)很難相信被無數(shù)事實證偽的理想、故事、宗教、領(lǐng)袖和主義，巫師、牧師、導師的“三師”效用急劇遞減。於是，為了重建信任，強化合作，需要借助機器，而AI就更善于幫助“三師”虛構(gòu)理想、發(fā)展想象、重講故事。這樣，AI就能更有效地改變?nèi)祟惖暮献髂Ｊ?，控制人類的行為?/span>
第四，AI有可能促使人類更不平等。首先，數(shù)字的落差將導致新的階級分化，目前全世界70億人口，至少一半沒有互聯(lián)網(wǎng)，這樣，更多人群將成為數(shù)字的新奴隸，數(shù)字貧困將導致經(jīng)濟貧困（poverty of data、poverty of information, poverty of access)。另外，AI設(shè)計出來的教育產(chǎn)品，可能忽略少數(shù)弱勢群體的需求。不是說MOOC的主人不能滿足多元需求，而是滿足這些弱小、個別、窮困的受眾，不值得。尤其是，大數(shù)據(jù)模型存在種族偏見、經(jīng)濟剝削、弱勢歧視。Cathy O’Neil的Weapons of Math Destruction對此現(xiàn)象作了觸目驚心地描寫。
第五，AI有助于科技創(chuàng)新，但難以推動、甚至阻礙科學發(fā)現(xiàn)?？茖W是發(fā)現(xiàn)，科技是發(fā)明（Technological Innovation Vs. Scientific Discovery）。AI只是一種科技，而不是科學，這是一種術(shù)與學、器與道的區(qū)別。“李約瑟之謎”指出：中國自漢朝以來，出現(xiàn)了不少偉大的科技，但少有傳世的科學。中國的四大發(fā)明不是科學發(fā)現(xiàn)，而是科技創(chuàng)新而已。多數(shù)中國人善于掌握已知的能力強，但探索未知能力和興趣比較弱。
第六，危機可能變轉(zhuǎn)機。首先，AI可能導致重大社會危機，因為人類正在面臨“六失”：安全失控、法律失準、道德失范、倫理失常、隱私失密、思想失卻?？膳碌氖?，人類將在AI時代出現(xiàn)新的“雙人記”（自然人VS智能人），類似《雙城記》的悲劇：A Tale of Two “Men”（雙人記）。
但是，AI也有正面的人文效用。讓AI的風暴來得更猛烈一些吧！因為當AI主導人類生活之時，將是文史哲再度復興、再度輝煌之日。屆時，人類將負責思想、人文、情感和靈感，AI則負責運算、模仿和執(zhí)行。未來的人類將更多地在精神世界尋找滿足、探索更深層的生命寄托和意義。必須記住，未來的時代，生產(chǎn)力不再是第一生產(chǎn)力，只有思想才是第一生產(chǎn)力。
沈巋教授：我想補充的是，從法理層面看，無論歷史上對“法律是什么”有多少個不同的學說，目前主導和影響我們?nèi)祟愃季S的關(guān)于法律的觀念，把法律和主權(quán)國家緊密聯(lián)系在一起。因此，討論AI或智能網(wǎng)絡(luò)時代對法律的影響，也可以從主權(quán)國家角度切入。我們通常認為，主權(quán)國家有三個非常重要的構(gòu)成要素：領(lǐng)土、人民和政權(quán)。但是，在AI或智能網(wǎng)絡(luò)時代，這三個方面都有極大變化。
首先，領(lǐng)土在網(wǎng)絡(luò)世界中是不存在的。在網(wǎng)絡(luò)世界中，我們是站在云上，不是站在領(lǐng)土上；我們是站在數(shù)據(jù)流上，不是站在土地上。這就是我們現(xiàn)在所感受到的跨國界。與主權(quán)國家對應(yīng)的是“公民”概念（citizen），而與網(wǎng)絡(luò)世界對應(yīng)的則是“網(wǎng)民”概念（netizen）。我們在進行這樣的講座的時候，不再是公民，而是網(wǎng)民。我們很大程度上不再受中國、美國或者其他國家法律非常直接的影響，更多地是受到交流媒介平臺（Zoom等）的規(guī)則限制。領(lǐng)土也與實體世界緊密相關(guān)。過去，我們更多地是生活在實體世界里，在古代或近代以前由于交通的不便，由于其他方面的限制，人們雖然可能知道有不同于自己生活的世界的其他實體世界的存在，但很難真正生活在多維世界中?，F(xiàn)在，我們不僅可以時不時地在多維實體世界里穿行，還能經(jīng)常穿行于實體世界和虛擬世界中。這就帶來一系列問題：約束我們行為的法律或規(guī)則的制定者是誰？國家還是網(wǎng)絡(luò)平臺還是算法設(shè)計者？法律還只是主權(quán)者的意志，由主權(quán)國家的強制力實施的“硬法”？還是會更多地包括季老師所說的“軟法”？我們在不同世界中接受的法律或規(guī)則發(fā)生沖突會怎么辦？
其次，關(guān)于人，我對未來世界的人口結(jié)構(gòu)有一種擔憂。我認為存在一種人格的非人化趨勢。人格這一概念原來是建立在自然人的基礎(chǔ)上，不是建立在機器人或智能人的基礎(chǔ)上的，但當我們試圖把人格賦予機器人、智能人的時候，不管是洪教授所說的“雙人記”還是於教授所說的把人格賦予機器人，我覺得就是把本來的人格概念變得非人化了。這會帶來什么樣的問題呢，尤其是法律問題？我同意前面幾位老師的基本觀點。在此基礎(chǔ)上，我再補充一點。有些問題也許是我們以前想都不會想的。比如說，我們的確對AI的深度學習能力了解不多，對算法的未來發(fā)展也了解不多，但是，一種可能的想象是：對某些人來說，他們非常希望智能人成為他們的伴侶，他們會愛上智能人，還會希望跟智能人結(jié)婚，因為他們覺得同一個復雜的自然人相處、結(jié)婚是很難受的。也許，他們還會想，同智能人結(jié)婚以后再領(lǐng)養(yǎng)一個人，不管領(lǐng)養(yǎng)的是自然人還是智能人。這就會導致家庭的整個結(jié)構(gòu)的劇烈變化，而家庭是倫理、道德、法律體系的基本單位，難免會形成連鎖的法律難題。進而，是不是要滿足這部分自然人的需求，又會涉及到人權(quán)觀念。未來會變得很復雜、很具有挑戰(zhàn)性。
第三，涉及到政權(quán)，如果我們在一個沒有領(lǐng)土的網(wǎng)絡(luò)里，政權(quán)看上去對我們的影響就弱了很多，但是，實際上，我們會面臨更多的權(quán)威以及更多的全能權(quán)威。未來會面臨智能權(quán)威化和權(quán)威全能化的情況。培根說的Knowledge is power，過去一種常見的翻譯是，知識就是力量。但是，這同樣可以翻譯為知識就是權(quán)力。隨著AI的發(fā)展，享有或者控制智能的個人或組織的權(quán)威會變得越來越大。比如，強大如淘寶、亞馬遜等平臺對數(shù)以億計的商家和消費者的治理，就是建立在代碼和智能的基礎(chǔ)上。這些新的權(quán)威正在宣告和展示他們對某些多維世界的主宰。同時，我們傳統(tǒng)的政權(quán)也會利用這種智能，增強其能力。我們以前總說，沒有一個政府是萬能的，沒有一個像萬能上帝存在的政府。然而，如果馬斯克的芯片可以植入到豬腦、人腦，進入到人腦以后又能感受到人的活動神經(jīng)。又如果政府可以利用諸如此類我們現(xiàn)在想象不到、但未來完全可能出現(xiàn)的AI技術(shù)，那么，政府對人民的控制就似乎會變得無所不能，就會比哈維爾筆下的老大哥更為全能。未來的法律必須要很好地應(yīng)對“多權(quán)威”的存在以及“全能權(quán)威”的存在?？傊?，與法律有著密切關(guān)聯(lián)的主權(quán)國家三個基本要素——領(lǐng)土、人口、政權(quán)——都會發(fā)生巨大變化，法律體系也必然會隨之面臨巨大挑戰(zhàn)和變化。