[author]季衛(wèi)東
[content]
在新技術(shù)面前，社會(huì)治理會(huì)面臨哪些挑戰(zhàn)？
*季衛(wèi)東
上海交通大學(xué)文科資深教授
中國(guó)法與社會(huì)研究院院長(zhǎng)
摘 要：當(dāng)人工智能因深度學(xué)習(xí)而從他律系統(tǒng)轉(zhuǎn)化為自律系統(tǒng)，特別是在人工智能網(wǎng)絡(luò)之間的相互作用及其連鎖反應(yīng)不斷進(jìn)行的情況下，黑箱化和失控的風(fēng)險(xiǎn)會(huì)不斷增大?！巴该魃鐣?huì)”與“黑箱算法”，這是數(shù)據(jù)
驅(qū)動(dòng)社會(huì)的一對(duì)根本矛盾，對(duì)國(guó)家治理方式的改革提出了新的挑戰(zhàn)和機(jī)遇。
為此，如何對(duì)人工智能進(jìn)行適當(dāng)?shù)?、合理的、充分的?guī)制，確立人工智能研發(fā)的規(guī)則、倫理以及政策就勢(shì)必成為極其重要并非常緊迫的一項(xiàng)課題。為了在甄別和防范風(fēng)險(xiǎn)的同時(shí)保護(hù)人工智能開發(fā)的積極性和
創(chuàng)造性，有必要更多地采取軟法方式，而不是簡(jiǎn)單地提高硬法的懲戒力度。
人工智能的網(wǎng)絡(luò)化與互聯(lián)互通
“走的太快了，靈魂跟不上”——這是一個(gè)游牧部族的古訓(xùn)，也可以用來(lái)描述人工智能開發(fā)在中國(guó)突飛猛進(jìn)卻隱患頻仍、局部失序的現(xiàn)狀。
從自動(dòng)駕駛的汽車到機(jī)器人運(yùn)營(yíng)的酒店，從電腦量刑到高頻度金融交易，人工智能已經(jīng)滲透到經(jīng)濟(jì)、政治、社會(huì)生活的各個(gè)方面，各種新奇事物層出不窮。但是，對(duì)由此產(chǎn)生的風(fēng)險(xiǎn)以及必要的對(duì)策和規(guī)制
方式，我們還缺乏足夠的認(rèn)識(shí)和深入研討。人工智能的開發(fā)和利用大都還處于高速增長(zhǎng)階段，相關(guān)的制度條件尚不完備，在很多重要方面還沒有制定明確的、適當(dāng)?shù)?、統(tǒng)一的倫理標(biāo)準(zhǔn)、法律原則、規(guī)則、
規(guī)格以及政策。
我們不能讓這樣的事態(tài)長(zhǎng)期持續(xù)下去，否則將留下嚴(yán)重的后患。2017年7月21日由國(guó)務(wù)院頒發(fā)的《新一代人工智能發(fā)展規(guī)劃》已經(jīng)指出研究相關(guān)法律問題和建立問責(zé)制度的必要性，提出了一些重要舉措。
當(dāng)然，人工智能開發(fā)的具體規(guī)制方式和規(guī)范內(nèi)容還有待進(jìn)一步充實(shí)、完善。
實(shí)際上，艾薩克·阿西莫夫早在1942年發(fā)表的科幻短篇小說(shuō)《轉(zhuǎn)圈跑》，就曾經(jīng)提出了關(guān)于防止機(jī)器人失控的三大定律，即機(jī)器人不得傷害人或者對(duì)人受到傷害袖手旁觀；機(jī)器人必須服從人的指令，除非
該指令危害到人；在遵循上述兩條定律的前提條件下，機(jī)器人必須保護(hù)自己。后來(lái)，為了避免允許機(jī)器人劫法場(chǎng)之類的邏輯漏洞，他在《機(jī)器人與帝國(guó)》又追加了一條零定律：“機(jī)器人不得加害于人類整
體或者因?yàn)樽曃C(jī)而加害人類整體”。這些富于靈感和遠(yuǎn)見的主張為人工智能開發(fā)的規(guī)制展現(xiàn)了基本思路和雛形，對(duì)后來(lái)的制度設(shè)計(jì)產(chǎn)生了深刻影響，但卻不能充分反映當(dāng)今社會(huì)的嶄新狀況和需求。
阿西莫夫《機(jī)器人與帝國(guó)》
為了正確把握人工智能在全世界的發(fā)展趨勢(shì)以及問題群，我們首先需要對(duì)產(chǎn)業(yè)革命的進(jìn)程進(jìn)行簡(jiǎn)單的回顧。
迄今為止，人類社會(huì)經(jīng)歷了四次重大產(chǎn)業(yè)革命，采取了不同的基本生產(chǎn)方式。首先是機(jī)械化生產(chǎn)方式，由蒸汽機(jī)和紡織機(jī)的發(fā)明而啟動(dòng)，從18世紀(jì)后期持續(xù)到19世紀(jì)前期。其次是電氣化生產(chǎn)方式，因電
力和石油以及高度分工引發(fā)，從19世紀(jì)后期持續(xù)到20世紀(jì)前期。接著以產(chǎn)業(yè)機(jī)器人的研發(fā)為契機(jī)，從1960年代開始出現(xiàn)了自動(dòng)化生產(chǎn)方式，其驅(qū)動(dòng)力量是半導(dǎo)體、電腦以及互聯(lián)網(wǎng)。就在這個(gè)階段，人工
智能的研究開始出現(xiàn)幾經(jīng)起伏的熱潮。
初級(jí)的人工智能只不過是裝載了控制程序的家用電器，例如具有自動(dòng)調(diào)節(jié)功能的洗衣機(jī)、冰箱以及電動(dòng)剃須刀。較高級(jí)的人工智能則是裝載了知識(shí)數(shù)據(jù)庫(kù)的推理和探索系統(tǒng)，例如象棋程序、掃地機(jī)器人以
及對(duì)話軟件。更高級(jí)的人工智能搭載檢索引擎，可以按照既定算法進(jìn)行機(jī)械學(xué)習(xí)，包括各種實(shí)用的專家系統(tǒng)。現(xiàn)在我們通常所說(shuō)的人工智能大多數(shù)就是指具有機(jī)械學(xué)習(xí)功能的計(jì)算機(jī)信息處理系統(tǒng)。
至此我們迎來(lái)了大數(shù)據(jù)時(shí)代，新的產(chǎn)業(yè)革命條件也開始日漸成熟。自2000年代以來(lái)由萬(wàn)物互聯(lián)互通、大數(shù)據(jù)、人工智能引發(fā)的智網(wǎng)化生產(chǎn)方式，可謂第四次產(chǎn)業(yè)革命。正在進(jìn)行中的這次產(chǎn)業(yè)社會(huì)的結(jié)構(gòu)轉(zhuǎn)
型是以數(shù)據(jù)驅(qū)動(dòng)和人工智能網(wǎng)絡(luò)化為基本特征的。其主要構(gòu)成因素有如下三項(xiàng)。
第一，物聯(lián)網(wǎng)（簡(jiǎn)稱IOT）。物聯(lián)網(wǎng)導(dǎo)致數(shù)據(jù)的生成、流通、積蓄不斷增大，并通過數(shù)據(jù)合作實(shí)現(xiàn)最合理化的供應(yīng)鏈，可以針對(duì)顧客個(gè)人需求進(jìn)行產(chǎn)品和服務(wù)的創(chuàng)新。
第二，由物聯(lián)網(wǎng)形成和積累而成的大數(shù)據(jù)。對(duì)物聯(lián)網(wǎng)而言，大數(shù)據(jù)的收集和運(yùn)用是關(guān)鍵，而大數(shù)據(jù)具有經(jīng)濟(jì)價(jià)值，甚至被認(rèn)為是一種新型通貨。大數(shù)據(jù)也使得個(gè)人生活狀態(tài)變得非常透明化了，甚至可以說(shuō)我
們面對(duì)的是一個(gè)極端化的“透明社會(huì)”。
第三，人工智能。沒有人工智能，大數(shù)據(jù)的收集和運(yùn)用都不可能實(shí)現(xiàn)，而基于大數(shù)據(jù)的機(jī)械學(xué)習(xí)和深度學(xué)習(xí)又給人工智能帶來(lái)質(zhì)變，可以不斷開發(fā)新產(chǎn)品、新服務(wù)，并且大幅度提高效率和質(zhì)量。
這三種因素互相作用、相輔相成，推動(dòng)人工智能網(wǎng)絡(luò)化程度不斷加深，促進(jìn)現(xiàn)實(shí)空間與虛擬空間之間互動(dòng)和反饋的關(guān)系不斷增殖，形成一種具備控制力的信息實(shí)體交融系統(tǒng)（簡(jiǎn)稱CPS）。在這樣的背景下，
以多倫多大學(xué)開發(fā)的圖像識(shí)別系統(tǒng)Super Vision以及谷歌的貓臉識(shí)別項(xiàng)目為標(biāo)志，人工智能也從2012年開始進(jìn)入了能夠自己進(jìn)行“特征表現(xiàn)學(xué)習(xí)”（深度學(xué)習(xí)）的嶄新時(shí)代，為歷史性突破提供了重要契機(jī)。
Google開發(fā)的Vision AI
在人工智能的網(wǎng)絡(luò)化和萬(wàn)物互聯(lián)互通的時(shí)代，阿西莫夫關(guān)于防止機(jī)器人失控的三大定律和零定律就顯得有些捉襟見肘了。從控制程序、知識(shí)數(shù)據(jù)庫(kù)到檢索引擎，人工智能都必須按照人給出的指令或算法來(lái)
運(yùn)行。在機(jī)械學(xué)習(xí)階段，即便有非常龐大的數(shù)據(jù)，人工智能也不會(huì)自動(dòng)學(xué)習(xí)，需要有人來(lái)提供數(shù)據(jù)的特征量和規(guī)格化方式才能進(jìn)行學(xué)習(xí)和預(yù)測(cè)；通過機(jī)械學(xué)習(xí)，人工智能可以提供更高的精確度，但卻很難
對(duì)復(fù)雜的、模糊的問題進(jìn)行判斷。
然而當(dāng)機(jī)械學(xué)習(xí)的數(shù)據(jù)輸入不間斷地高速進(jìn)行時(shí)，對(duì)輸出的預(yù)測(cè)就會(huì)變得非常困難。而在深度學(xué)習(xí)的場(chǎng)合，人工智能系統(tǒng)不僅按照算法進(jìn)行數(shù)據(jù)處理，還采取多層次腦神經(jīng)網(wǎng)絡(luò)的模型和方法，能從大數(shù)據(jù)
中發(fā)現(xiàn)和提取特征量，揭示迄今為止未知的問題、樣式、結(jié)構(gòu)以及原理，從而具有更高的自主性，因而更類似具有條件反射能力的動(dòng)物或者自由意志的人。
當(dāng)人工智能從他律系統(tǒng)轉(zhuǎn)化為自律系統(tǒng)、從演繹系統(tǒng)轉(zhuǎn)化為歸納系統(tǒng)，特別是在人工智能網(wǎng)絡(luò)之間的相互作用及其連鎖反應(yīng)不斷進(jìn)行的情況下，預(yù)測(cè)、理解、驗(yàn)證、控制就會(huì)變得更加困難，甚至出現(xiàn)黑箱
化現(xiàn)象。
“透明社會(huì)”與“黑箱算法”，這是數(shù)據(jù)驅(qū)動(dòng)時(shí)代的一對(duì)根本矛盾，對(duì)國(guó)家治理方式的改革提出了新的挑戰(zhàn)和機(jī)遇。無(wú)論如何，既然人工智能有自我學(xué)習(xí)和創(chuàng)新的潛力，能通過統(tǒng)合復(fù)數(shù)的身體功能進(jìn)行精密管理
，還會(huì)按照某種節(jié)奏不斷引起飛躍式的變化，甚至通過復(fù)雜的連鎖反省造成混沌，那么如何對(duì)人工智能進(jìn)行適當(dāng)?shù)?、合理的、充分的?guī)制，確立機(jī)器人研制的規(guī)則和政策就勢(shì)必成為極其重要并非常緊迫的
一項(xiàng)課題。
人工智能網(wǎng)絡(luò)化的風(fēng)險(xiǎn)與社會(huì)治理
在考慮對(duì)人工智能開發(fā)進(jìn)行適當(dāng)規(guī)制之前，必須對(duì)人工智能本身進(jìn)行比較精準(zhǔn)的概念界定。
不言而喻，人工智能是相對(duì)于人類智能而言的，而人類的智能活動(dòng)通常表現(xiàn)為推理、學(xué)習(xí)以及自我改善。因此，人工智能就可以理解為借助電子計(jì)算機(jī)來(lái)實(shí)現(xiàn)推理、學(xué)習(xí)以及自我改善等活動(dòng)的機(jī)制。換言
之，人工智能就是能夠形成和運(yùn)作這類活動(dòng)機(jī)制的數(shù)據(jù)處理系統(tǒng)，或者像人那樣思考的電子計(jì)算機(jī)。
由此可以推論，人工智能的本質(zhì)在于信息的輸入與輸出之間的關(guān)系。電子計(jì)算機(jī)擅長(zhǎng)進(jìn)行大量的、反復(fù)的信息處理和邏輯演算，但人類擅長(zhǎng)進(jìn)行直覺的分析和判斷，通過與環(huán)境的相互作用創(chuàng)造出主觀的世界
圖像，并依此進(jìn)行認(rèn)識(shí)和與預(yù)測(cè)。人工智能的發(fā)展目標(biāo)就是要把這兩個(gè)方面密切結(jié)合起來(lái)，提高認(rèn)識(shí)和社會(huì)控制的精確度和實(shí)效性。
目前的人工智能熱是由深度學(xué)習(xí)——利用腦神經(jīng)網(wǎng)絡(luò)進(jìn)行的機(jī)械學(xué)習(xí)——而引起的。過去五十年間的機(jī)械學(xué)習(xí)是由人根據(jù)專業(yè)知識(shí)和經(jīng)驗(yàn)來(lái)設(shè)計(jì)算法和特征量，通過反復(fù)試錯(cuò)逐步提高電子計(jì)算機(jī)判斷的精確
度，失誤比率一般在26%到27%之間徘徊。
從2006年開始研發(fā)的深度學(xué)習(xí)，在2012年給這種持續(xù)已久的沉悶局面帶來(lái)了重大突破，使得人工智能識(shí)別的失誤比率驟然降到15%到16%的程度。深度學(xué)習(xí)的技術(shù)訣竅就是人類不再事先設(shè)計(jì)數(shù)據(jù)的特征量
，而由電子計(jì)算機(jī)通過多階腦神經(jīng)網(wǎng)絡(luò)模型下的分層化學(xué)習(xí)以及自我符號(hào)化的信息壓縮器，從輸入的數(shù)據(jù)中自動(dòng)抽出數(shù)據(jù)的更高級(jí)特征量。也就是說(shuō)，人工智能從此開始真正介入本來(lái)只能由人類智能決定的
領(lǐng)域。如果從圖像數(shù)據(jù)到觀測(cè)數(shù)據(jù)、行動(dòng)數(shù)據(jù)以及語(yǔ)言數(shù)據(jù)都可以進(jìn)行深度學(xué)習(xí)，那就可以解決環(huán)境認(rèn)識(shí)、行動(dòng)預(yù)測(cè)以及知識(shí)獲得瓶頸等問題，勢(shì)必在很多領(lǐng)域引起科技和產(chǎn)業(yè)革命的連鎖反應(yīng)。
人工智能的學(xué)習(xí)方法
深度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)以及各種人工智能之間互相聯(lián)網(wǎng)，形成了所謂“智網(wǎng)社會(huì)”，向國(guó)家治理和法律秩序提出了新的課題和挑戰(zhàn)。人工智能的網(wǎng)絡(luò)化的確可以為人類帶來(lái)巨大的便利和效益，但同時(shí)也勢(shì)必造成
巨大的、缺乏清晰邊界的風(fēng)險(xiǎn)社會(huì)。
與過去的信息通訊技術(shù)不同，人工智能通過深度學(xué)習(xí)而導(dǎo)致變化的結(jié)果很可能是人工智能開發(fā)者自己也無(wú)法預(yù)測(cè)和控制的。人工智能網(wǎng)絡(luò)化勢(shì)必引起自動(dòng)的組合變更，實(shí)現(xiàn)自我生成式的成長(zhǎng)和變異乃至人工
智能判斷的黑箱化，形成非常復(fù)雜的情況和網(wǎng)絡(luò)混沌。在這里，存在人工智能不透明化的風(fēng)險(xiǎn)、安全性風(fēng)險(xiǎn)、失控的風(fēng)險(xiǎn)等等。另外，各種人工智能網(wǎng)絡(luò)相互間的目的競(jìng)爭(zhēng)或沖突也會(huì)引起復(fù)雜的連鎖反應(yīng)，
很可能在某種情形下造成利用者或者第三者的權(quán)利或利益受到損害，或者危及社會(huì)秩序和法律制度的框架。在這里存在事故的風(fēng)險(xiǎn)、智慧型犯罪的風(fēng)險(xiǎn)、個(gè)人信息和隱私被泄露和濫用的風(fēng)險(xiǎn)、人為操縱選舉
結(jié)果的風(fēng)險(xiǎn)等等。為此必須加強(qiáng)風(fēng)險(xiǎn)甄別和風(fēng)險(xiǎn)溝通。
如何對(duì)這類風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)和管控成為人工智能網(wǎng)絡(luò)化社會(huì)的治理以及制度設(shè)計(jì)的核心問題。眾所周知，智網(wǎng)社會(huì)的最大特征是通過互聯(lián)網(wǎng)實(shí)現(xiàn)的越境性，無(wú)論效益還是風(fēng)險(xiǎn)都會(huì)突破國(guó)家和專業(yè)領(lǐng)域的既有樊
籬進(jìn)行傳遞和呈指數(shù)級(jí)擴(kuò)散。因此，對(duì)人工智能網(wǎng)絡(luò)化的相關(guān)問題進(jìn)行討論、采取對(duì)策不得不具備國(guó)際視野和全球視野，應(yīng)該注重在互聯(lián)互通的狀況里尋求人類社會(huì)的最大公約數(shù)和基本共識(shí)。
另外，由于相關(guān)的技術(shù)創(chuàng)新和市場(chǎng)培育還處于初級(jí)階段，特別需要積極鼓勵(lì)試驗(yàn)和競(jìng)爭(zhēng)，為了防止壓抑研究者和企業(yè)的能動(dòng)性，對(duì)人工智能開發(fā)的規(guī)制也應(yīng)該富于彈性，給試行錯(cuò)誤及其糾正留下充分的空間。
在這樣的條件設(shè)定下，如何使規(guī)制的舉措產(chǎn)生實(shí)際效力、具有可持續(xù)性就自然而然成為另一個(gè)需要強(qiáng)調(diào)的因素?？傊斯ぶ悄芫W(wǎng)絡(luò)化社會(huì)的治理切忌“一刀切”的生硬強(qiáng)制手段，更適合采取多視角的、綜合性
的、社群指向的“軟法”方式。只有這樣，人工智能在中國(guó)的發(fā)展才能跳出“一管就死、一放就亂”的傳統(tǒng)陷阱。
人工智能網(wǎng)絡(luò)社會(huì)治理的基本原則和方法
國(guó)務(wù)院頒發(fā)的2017年《新一代人工智能發(fā)展規(guī)劃》在保障措施這一節(jié)里強(qiáng)調(diào)了人工智能發(fā)展的制度安排、開放包容的國(guó)際化環(huán)境以及社會(huì)基礎(chǔ)等基本理念。鑒于人工智能的技術(shù)屬性與社會(huì)屬性高度交叉融合的
特殊情形，關(guān)于制度安排，規(guī)劃要求加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架。開展與人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、個(gè)人尊嚴(yán)和隱私
以及產(chǎn)權(quán)保護(hù)、信息安全利用等法律問題研究，建立追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。通過法律規(guī)范和倫理規(guī)范的并用來(lái)實(shí)現(xiàn)社會(huì)交往的共享和互信。在立法方面，重點(diǎn)圍
繞自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng)域，加快研究制定相關(guān)安全管理法規(guī)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)。
由于人工智能是影響深遠(yuǎn)的顛覆性技術(shù)，國(guó)務(wù)院規(guī)劃還重視圍繞人工智能開展行為科學(xué)和倫理等問題研究，建立倫理道德多層次判斷結(jié)構(gòu)及人機(jī)協(xié)作的倫理框架。制定人工智能產(chǎn)品研發(fā)設(shè)計(jì)人員的道德規(guī)范和
行為守則，加強(qiáng)對(duì)人工智能潛在危害與收益的評(píng)估，構(gòu)建人工智能復(fù)雜場(chǎng)景下突發(fā)事件的解決方案，以夯實(shí)第四次產(chǎn)業(yè)革命“以人為本”的社會(huì)基礎(chǔ)。除此之外，規(guī)劃特別指出有必要積極參與人工智能全球治理，
加強(qiáng)機(jī)器人異化和安全監(jiān)管等人工智能重大國(guó)際共性問題研究，深化在人工智能法律法規(guī)、國(guó)際規(guī)則等方面的國(guó)際合作，共同應(yīng)對(duì)全球性挑戰(zhàn)，并且在全球范圍內(nèi)優(yōu)化配置創(chuàng)新資源。在人工智能開發(fā)的規(guī)格、標(biāo)
準(zhǔn)以及規(guī)制方式上與國(guó)際接軌，參與全球?qū)υ挘@是值得高度評(píng)價(jià)的原則性立場(chǎng)。
關(guān)于技術(shù)標(biāo)準(zhǔn)框架體系和保障舉措，國(guó)務(wù)院規(guī)劃明確提出了安全性、可用性、互操作性、可追溯性等基本原則，要求逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應(yīng)用、跨界融合、網(wǎng)絡(luò)安全、隱私保護(hù)
等技術(shù)標(biāo)準(zhǔn)以及行業(yè)規(guī)范，特別是鼓勵(lì)人工智能企業(yè)參與或主導(dǎo)制定國(guó)際標(biāo)準(zhǔn)。
針對(duì)相關(guān)的評(píng)估和安全監(jiān)管，2017年規(guī)劃注重人工智能對(duì)國(guó)家安全和保密領(lǐng)域影響的研究與評(píng)估，決定構(gòu)建人工智能安全監(jiān)測(cè)預(yù)警機(jī)制并加強(qiáng)對(duì)人工智能技術(shù)發(fā)展的預(yù)測(cè)、研判和跟蹤研究。在風(fēng)險(xiǎn)評(píng)估和防控
方面，從預(yù)防法學(xué)和因勢(shì)利導(dǎo)政策的角度明確近期重點(diǎn)關(guān)注對(duì)就業(yè)的影響；遠(yuǎn)期重點(diǎn)考慮對(duì)社會(huì)倫理的影響，確保把人工智能發(fā)展規(guī)制在安全可控范圍內(nèi)。機(jī)制設(shè)計(jì)的思路是建立和健全公開透明的人工智能監(jiān)管
體系，實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管并加強(qiáng)懲戒力度。
在人工智能網(wǎng)絡(luò)化和數(shù)據(jù)驅(qū)動(dòng)社會(huì)成形的背景下，國(guó)務(wù)院規(guī)劃特別注重人工智能行業(yè)和企業(yè)的自主操控、群智研發(fā)以及人工智能網(wǎng)絡(luò)安全技術(shù)的研發(fā)，試圖構(gòu)建動(dòng)態(tài)的人工智能研發(fā)應(yīng)用評(píng)估評(píng)價(jià)機(jī)制，要求“圍
繞人工智能設(shè)計(jì)、產(chǎn)品和系統(tǒng)的復(fù)雜性、風(fēng)險(xiǎn)性、不確定性、可解釋性、潛在經(jīng)濟(jì)影響等問題，開發(fā)系統(tǒng)性的測(cè)試方法和指標(biāo)體系，建設(shè)跨領(lǐng)域的人工智能測(cè)試平臺(tái)，推動(dòng)人工智能安全認(rèn)證，評(píng)估人工智能產(chǎn)品
和系統(tǒng)的關(guān)鍵性能”。從這一系列制度設(shè)計(jì)方案和舉措中，我們可以解讀出通過人工智能網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)社會(huì)共生和普惠的原則、通過跨界協(xié)調(diào)和自律性尊重讓企業(yè)和社會(huì)都充滿活力的治理目標(biāo)、通過利益相關(guān)者參
與決策以及問責(zé)確保人工智能網(wǎng)絡(luò)互動(dòng)的可控性與透明性。
通過上述分析，可以發(fā)現(xiàn)我國(guó)人工智能研發(fā)的主要原則和實(shí)施方法不妨歸納為以下九條：
（1）共享互信原則——人工智能的研發(fā)以社會(huì)共生、人與人交往的互信以及開發(fā)利益的普惠為根本價(jià)值目標(biāo)。
（2）個(gè)體尊嚴(yán)原則——在數(shù)據(jù)驅(qū)動(dòng)的智網(wǎng)社會(huì)，人工智能研發(fā)必須切實(shí)保障網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息安全以及公民的隱私權(quán)和名譽(yù)權(quán)。
（3）民主參與原則——鑒于人工智能互聯(lián)互通、滲透到生活的各個(gè)角落，僅靠自上而下的決定和監(jiān)管必然存在盲點(diǎn)和漏洞，因而必須讓利益相關(guān)者也參與相關(guān)決策。
（4）國(guó)際合作原則——鑒于人工智能跨界互聯(lián)互通的現(xiàn)狀以及標(biāo)準(zhǔn)統(tǒng)一的經(jīng)濟(jì)合理性，人工智能研發(fā)應(yīng)該立足于國(guó)際合作，對(duì)必要的規(guī)制也應(yīng)該采取全球共同應(yīng)對(duì)的方法。
（5）相機(jī)規(guī)制原則——由于人工智能的技術(shù)復(fù)雜性和創(chuàng)新性，規(guī)范秩序的建構(gòu)有必要讓立法（剛性規(guī)范）與道德規(guī)范、政策（柔性規(guī)范）兼具并用，并對(duì)合規(guī)性問題采取多層化判斷的方法。
（6）公開透明原則——為了防止人工智能失控，確保設(shè)計(jì)者和企業(yè)的可問責(zé)性，對(duì)算法和程序應(yīng)該要求公開、透明化，強(qiáng)調(diào)可說(shuō)明性。
（7）雙重規(guī)制原則——對(duì)于人工智能研發(fā)實(shí)施設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督的雙重規(guī)制方式。
（8）追蹤制裁原則——鑒于人工智能的本質(zhì)在于信息輸入與輸出之間的關(guān)系，對(duì)有關(guān)產(chǎn)品和技術(shù)的研發(fā)、應(yīng)用實(shí)行全流程監(jiān)管，并對(duì)違法和違規(guī)現(xiàn)象加大懲戒力度。
（9）預(yù)防響應(yīng)原則——針對(duì)人工智能研發(fā)中的風(fēng)險(xiǎn)要加強(qiáng)預(yù)防舉措，并建立危機(jī)處理的預(yù)警和應(yīng)急處理體系。
關(guān)于人工智能研發(fā)的法理
和政策的國(guó)際主要?jiǎng)酉?/span>
關(guān)于人工智能研發(fā)引起的法律問題以及相關(guān)規(guī)制的理論探討的近況，上海交通大學(xué)凱原法學(xué)院彭誠(chéng)信教授主持翻譯的“獨(dú)角獸法學(xué)精品·人工智能”叢書三卷本已經(jīng)為我們提供了比較全面的概觀。其中關(guān)于機(jī)器人
規(guī)制的內(nèi)容也是從阿西莫夫三定律開始的，涉及機(jī)器人倫理學(xué)、人工智能管理規(guī)定、統(tǒng)一人工智能法典、聯(lián)合國(guó)人工智能公約、電子法、自動(dòng)化執(zhí)法、法律責(zé)任與社會(huì)倫理等一系列問題和制度設(shè)計(jì)的構(gòu)想，讀
來(lái)饒有趣味。在這里，只想介紹和分析一下主要國(guó)家和超國(guó)家機(jī)構(gòu)在人工智能規(guī)制方面的最新立法活動(dòng)以及相關(guān)規(guī)范的基本內(nèi)容，作為中國(guó)相關(guān)制度建設(shè)的借鑒。
美國(guó)政府從2016年5月開始正式研討人工智能的法律、倫理以及政策方面的問題，為決策進(jìn)行準(zhǔn)備。當(dāng)年10月白宮發(fā)表了題為《為人工智能的未來(lái)做準(zhǔn)備》報(bào)告書，提出人工智能的相關(guān)系統(tǒng)必須可控、公開透明
可理解、有效發(fā)揮功能、與人類的價(jià)值和愿望一致等原則。
與此同時(shí)，美國(guó)國(guó)家科學(xué)技術(shù)會(huì)議網(wǎng)絡(luò)和信息技術(shù)研究開發(fā)小委員會(huì)還發(fā)表了關(guān)于運(yùn)用聯(lián)邦政府預(yù)算研究人工智能的方針《美國(guó)人工智能研究開發(fā)戰(zhàn)略計(jì)劃》，提出了副作用最小化的要求。隨后美國(guó)電氣電子學(xué)
會(huì)也發(fā)表了關(guān)于人工智能設(shè)計(jì)倫理標(biāo)準(zhǔn)的報(bào)告書，提倡實(shí)現(xiàn)人權(quán)理念、人類與自然環(huán)境的效益最大化、減少人工智能和自律系統(tǒng)等等帶來(lái)的風(fēng)險(xiǎn)和負(fù)面影響等三條原則。由亞馬遜、DeepMind、谷歌、臉書、IBM
、微軟五大公司發(fā)起，歐美產(chǎn)業(yè)界在2016年9月還締結(jié)關(guān)于人工智能的伙伴關(guān)系，旨在構(gòu)建一個(gè)研究和討論人工智能技術(shù)改進(jìn)和社會(huì)影響的開放性平臺(tái)，并發(fā)表了關(guān)于確保社會(huì)責(zé)任、采取防護(hù)措施等八項(xiàng)信條。
來(lái)自不同機(jī)構(gòu)和學(xué)科的專家也按照人工智能“可接受、有責(zé)任”的理念結(jié)成倫理專題社群，進(jìn)行關(guān)于失控風(fēng)險(xiǎn)的腳本分析并提出對(duì)策建議。
歐盟的機(jī)器人法律項(xiàng)目從2012年開始活動(dòng)，到2014年9月發(fā)表了機(jī)器人法律指南。2016年4月，歐洲議會(huì)法務(wù)委員會(huì)召開關(guān)于機(jī)器人和人工智能的法律和倫理問題的聽證會(huì)，并在5月公布了與機(jī)器人相關(guān)的民事
法律規(guī)則的報(bào)告書草案。2017年2月歐洲議會(huì)通過《向歐洲委員會(huì)提出的關(guān)于涉及機(jī)器人民事法律規(guī)則的提案》，建議設(shè)立專門的歐盟機(jī)構(gòu)、采納智慧機(jī)器人登記制、明確嚴(yán)格的損害賠償責(zé)任、保障知識(shí)產(chǎn)權(quán)等
，要求歐洲委員會(huì)制定相關(guān)的歐盟法律。這個(gè)提案還建議確立機(jī)器人研發(fā)者的倫理行動(dòng)規(guī)范，其中包括尊重基本人權(quán)、預(yù)防原則、包容性、問責(zé)、安全性、可追溯性、隱私權(quán)保護(hù)、效益最大化和危害最小化等內(nèi)容。
2018年5月25日，歐盟開始施行一般數(shù)據(jù)保護(hù)條例，要求人工智能研發(fā)涉及個(gè)人信息處理時(shí)要通知本人，受到影響的個(gè)人有權(quán)獲得解釋。其中有些舉措比美國(guó)更加嚴(yán)格，對(duì)違反該法規(guī)的企業(yè)采取重罰政策。這項(xiàng)
法規(guī)對(duì)數(shù)據(jù)向其他國(guó)家的轉(zhuǎn)移業(yè)務(wù)也生效。2018年12月歐盟委員會(huì)AI高級(jí)專家組發(fā)布了《人工智能開發(fā)和適用倫理指南》草案，以《歐盟基本權(quán)利憲章》為基準(zhǔn)，力爭(zhēng)形成值得信賴的、負(fù)責(zé)任并沒有偏見的人工
智能，為此提出了七條關(guān)鍵要求。這個(gè)倫理指南將從2019年夏季開始進(jìn)入試行，所有企業(yè)、政府部門以及社會(huì)團(tuán)體都可以參加歐洲人工智能聯(lián)盟，通過共同遵循倫理指南在數(shù)據(jù)、算法、技術(shù)等方面推進(jìn)伙伴關(guān)系。
日本總務(wù)省信息通訊政策研究所通過系列研討會(huì)在2016年10月制訂了《人工智能開發(fā)指針方案（征求意見稿）》，經(jīng)過討論修改在2017年7月正式公布《為國(guó)際討論而作的人工智能開發(fā)指針方案》。日本方案的
基本宗旨是：盡管人工智能的技術(shù)創(chuàng)新和互聯(lián)網(wǎng)化有望給經(jīng)濟(jì)和社會(huì)生活帶來(lái)各種各樣的效益，但也存在黑箱化和失控的風(fēng)險(xiǎn)。人工智能是跨越國(guó)界互聯(lián)互通的，因此相關(guān)的效益和風(fēng)險(xiǎn)也勢(shì)必跨越國(guó)界產(chǎn)生連鎖反
應(yīng)。在這個(gè)意義上，智網(wǎng)社會(huì)的治理不可能局限在一國(guó)范圍內(nèi)，而應(yīng)該形成全球化的治理框架。為此，有必要通過開放式討論在利益相關(guān)者中凝聚國(guó)際共識(shí)。在人工智能研發(fā)的初期階段，通過立法來(lái)進(jìn)行規(guī)制有可
能導(dǎo)致創(chuàng)新活動(dòng)的萎縮，因此對(duì)剛性規(guī)范的制定應(yīng)持慎重態(tài)度，不妨更多地借助“軟法”等非正式的有序化機(jī)制。
日本的人工智能開發(fā)指針方案提出了五大理念，即（1）人通過與人工智能網(wǎng)絡(luò)共生而共享其恩惠，并建立一個(gè)尊重人的尊嚴(yán)和個(gè)體自主性的“以人為本”的社會(huì)；
（2）利益相關(guān)者應(yīng)該對(duì)作為非約束性軟法的指針及其最佳實(shí)踐經(jīng)驗(yàn)進(jìn)行國(guó)際共享；
（3）應(yīng)該通過創(chuàng)新的、開放式的研發(fā)活動(dòng)和公平競(jìng)爭(zhēng)增進(jìn)社會(huì)效益，在尊重學(xué)術(shù)自由等社會(huì)價(jià)值的同時(shí)防范風(fēng)險(xiǎn)，確保效益和風(fēng)險(xiǎn)的適當(dāng)平衡；
（4）堅(jiān)持技術(shù)的中立性，注意不給開發(fā)者造成過度負(fù)擔(dān)；
（5）對(duì)指針方案的內(nèi)容不斷斟酌，根據(jù)需要靈活進(jìn)行修改。
根據(jù)這些理念，指針方案具體闡述了人工智能研發(fā)的九項(xiàng)原則，即人工智能系統(tǒng)互相連接和互相運(yùn)用的“合作原則”（包括與國(guó)際標(biāo)準(zhǔn)和規(guī)格保持一致、數(shù)據(jù)形式統(tǒng)一化、界面和通信協(xié)議的公開、知識(shí)產(chǎn)權(quán)特許合
同及其條件的公開等）、確保輸入和輸出的可驗(yàn)證性和判斷的可解釋性的“透明原則”（包括研發(fā)者公開算法、源代碼、學(xué)習(xí)數(shù)據(jù)等）、研發(fā)者能駕馭人工智能的“可控原則”（為此可以采取監(jiān)督、預(yù)警、停機(jī)、斷
網(wǎng)、修理等有效舉措）、人的身體、生命、財(cái)產(chǎn)免于損傷的“無(wú)害原則”、保護(hù)人工智能系統(tǒng)本身的“安全原則”（包括系統(tǒng)的可信度、牢固性以及信息的機(jī)密性、完整性、可用性）、防止人工智能利用者和第三者
個(gè)人信息泄露和濫用的“隱私原則”、尊重人格的“倫理原則”、為用戶提供選擇機(jī)會(huì)的“支持原則”（包括設(shè)定系統(tǒng)默認(rèn)、提示易懂的選項(xiàng)、及時(shí)反饋、緊急情況的警告、失誤的糾正等）、以及對(duì)利益相關(guān)者履行說(shuō)
明義務(wù)的“問責(zé)原則”。
綜合上述信息，我們可以發(fā)現(xiàn)在人工智能研發(fā)的原則和政策方面，國(guó)際社會(huì)已經(jīng)初步形成了一些基本共識(shí)。例如對(duì)國(guó)際通用的指針、標(biāo)準(zhǔn)、規(guī)格采取合作態(tài)度，盡量使設(shè)計(jì)方案統(tǒng)一化；為確保人工智能系統(tǒng)和智
慧網(wǎng)絡(luò)之間互聯(lián)互通，必須共有相關(guān)信息；數(shù)據(jù)形式應(yīng)該標(biāo)準(zhǔn)化；應(yīng)該公開包括應(yīng)用程序編程接口在內(nèi)的接口和協(xié)議、知識(shí)產(chǎn)權(quán)的特許合同條件；確保技術(shù)的中立性以及透明性，判斷結(jié)果的可解釋性，等等。
另外，在不同價(jià)值取向發(fā)生沖突時(shí)，進(jìn)行選擇的元規(guī)則被公認(rèn)為要優(yōu)先保護(hù)人的安全，慎重對(duì)待生命倫理，不得毀損人性的價(jià)值。在與人相關(guān)的復(fù)數(shù)價(jià)值判斷標(biāo)準(zhǔn)之中，優(yōu)先順位的排序如下：生命、身體、財(cái)產(chǎn)。
從“以人為本”的立場(chǎng)出發(fā)，人工智能的研發(fā)者在設(shè)計(jì)階段就應(yīng)該充分考慮私生活的平穩(wěn)、個(gè)人信息保密、通訊保密，相關(guān)企業(yè)和服務(wù)商必須對(duì)利用者和利益相關(guān)者充分履行說(shuō)明義務(wù)，尊重客戶的選擇自由。為了
落實(shí)上述要求，有必要加強(qiáng)問責(zé)機(jī)制，提高懲戒的力度。
與人工智能相關(guān)的主要法律問題
和規(guī)制領(lǐng)域
以上重點(diǎn)分析了在數(shù)據(jù)驅(qū)動(dòng)的智網(wǎng)社會(huì)進(jìn)行人工智能研發(fā)的有關(guān)原則、規(guī)則以及政策，但與人工智能的適當(dāng)規(guī)制相關(guān)的法律和倫理問題當(dāng)然絕不局限這些。例如機(jī)器人造成人身?yè)p害的風(fēng)險(xiǎn)應(yīng)該如何預(yù)防和分散、
怎樣承擔(dān)法律責(zé)任、人工智能武器的研發(fā)和適用的邊界在哪里等等，都值得深入討論，需要制定相應(yīng)的標(biāo)準(zhǔn)。隨著人工智能的廣泛應(yīng)用，即使不采取強(qiáng)制手段也可能左右人們行為的“間接管制”變得越來(lái)越容易了。
人工智能對(duì)社會(huì)的間接管制實(shí)際上就有可能在很大程度上侵蝕個(gè)人選擇的自我決定權(quán)，給那些不使用人工智能的人們帶來(lái)經(jīng)濟(jì)損失以及其他各種代價(jià)。在這樣的狀況下，如果沒有適當(dāng)?shù)臋C(jī)制設(shè)計(jì)，現(xiàn)代國(guó)家憲法
和民法秩序的基礎(chǔ)勢(shì)必發(fā)生動(dòng)搖。另外，還存在許多與人工智能相關(guān)的具體法律問題，這里也按照一定的邏輯關(guān)系略作概括性說(shuō)明。
首先是人工智能生成物的歸屬問題。在智網(wǎng)社會(huì)，各種信息和文化作品的素材——新聞、網(wǎng)絡(luò)評(píng)論、照片、視頻和音頻、游戲、知識(shí)介紹、小說(shuō)、音樂、畫像等等，都在周流不息地流布和擴(kuò)大再生產(chǎn)。這些內(nèi)容
的發(fā)布機(jī)制是平面化的、自由的，但作為商業(yè)性活動(dòng)又是由少數(shù)信息技術(shù)公司巨頭所壟斷的。其中有些作品還是人工智能以低成本大量創(chuàng)造的。例如自動(dòng)翻譯（科大訊飛）、自動(dòng)著色和加工（“美圖秀秀”、“天
天P圖”）、既有文章的加工和第二次創(chuàng)作，特別是自動(dòng)文藝創(chuàng)作的軟件（英國(guó)音樂科技公司Jukedeck、美國(guó)谷歌DeepDream、日本東京大學(xué)開發(fā)的自動(dòng)作曲系統(tǒng)Orpheus、中國(guó)清華、北大、北郵共同研制的“薇薇
寫詩(shī)機(jī)器人”）所產(chǎn)生的作品，著作權(quán)究竟屬于誰(shuí)，涉及復(fù)雜的法律上和倫理上的問題，也很容易助長(zhǎng)免費(fèi)搭車的侵權(quán)現(xiàn)象。對(duì)于那些具有創(chuàng)造性貢獻(xiàn)的人工智能生成物要不要給予著作權(quán)上的保護(hù)、是否承認(rèn)其壟
斷性地位、保護(hù)是否要附加條件、保護(hù)期間多長(zhǎng)為宜，需要在政策上進(jìn)行慎重的權(quán)衡。
其次，議論更多的是人工智能生成物的行為責(zé)任問題。例如2016年某公司開發(fā)的具有深度學(xué)習(xí)能力的對(duì)話系統(tǒng)在推特上登場(chǎng)后，由于受網(wǎng)絡(luò)上大量流傳的歧視性笑話的影響，不久這個(gè)系統(tǒng)就開始不斷發(fā)表具有種
族歧視傾向的推特短文，損害他人的名譽(yù)，引發(fā)了憲法上的問責(zé)，被迫停止服務(wù)進(jìn)行整改。更廣為人知的實(shí)例是自動(dòng)駕駛汽車造成事故時(shí)的責(zé)任。全球首例無(wú)人駕駛汽車撞人致死事件發(fā)生在2018年3月18日的美國(guó)
亞利桑那州，導(dǎo)致加利福尼亞州開放上路測(cè)試的計(jì)劃擱淺。實(shí)際上，當(dāng)自動(dòng)駕駛汽車造成交通事故時(shí)，按照現(xiàn)行法制追究民事責(zé)任是很困難的，因?yàn)闊o(wú)法確認(rèn)駕駛者的過失，也很難證明控制運(yùn)行的軟件或人工智能
的設(shè)計(jì)上存在問題；特別是在獲取的信息和利用的服務(wù)非常多樣化的情況下，責(zé)任主體勢(shì)必復(fù)數(shù)化。算法黑箱很可能導(dǎo)致人工智能采取某種不能預(yù)測(cè)的動(dòng)作，這些都是汽車所有者和駕駛者既無(wú)法預(yù)知、也無(wú)從回避
的，因而難以追究他們的過失責(zé)任。當(dāng)然，也可以把人工智能軟件已經(jīng)嵌入汽車作為理由，根據(jù)產(chǎn)品責(zé)任法向廠商請(qǐng)求賠償；或者設(shè)立以人工智能為保險(xiǎn)對(duì)象的服務(wù)，通過保險(xiǎn)制度來(lái)解決問題。至于對(duì)自動(dòng)駕駛汽
車造成的事故追究刑事責(zé)任，必須通過修改法律或者制定新法另設(shè)犯罪類型。
另外還有提供給人工智能進(jìn)行學(xué)習(xí)的數(shù)據(jù)所伴隨的權(quán)利問題。例如通過讀取繪畫進(jìn)行深度學(xué)習(xí)是否侵害作者的復(fù)制權(quán)，個(gè)人的消費(fèi)信息、健康信息、經(jīng)歷信息以及識(shí)別信息作為學(xué)習(xí)數(shù)據(jù)使用時(shí)是否侵害隱私權(quán)，把
生產(chǎn)方法、銷售方法以及其他營(yíng)業(yè)活動(dòng)的大數(shù)據(jù)提供給人工智能是否引起不正當(dāng)競(jìng)爭(zhēng)，怎樣保護(hù)具有經(jīng)濟(jì)價(jià)值的數(shù)據(jù)，數(shù)據(jù)的大量積蓄和集中化會(huì)不會(huì)導(dǎo)致市場(chǎng)的壟斷，這些都需要深入研究，制定必要的法規(guī)、政
策以及倫理標(biāo)準(zhǔn)。對(duì)于匿名加工個(gè)人信息以及相關(guān)數(shù)據(jù)庫(kù)的建設(shè)也應(yīng)該有統(tǒng)一的規(guī)格和方法。2018年5月開始實(shí)施的歐盟一般數(shù)據(jù)保護(hù)條例被稱為二十一世紀(jì)的人權(quán)宣言，就是因?yàn)樵诰W(wǎng)絡(luò)化社會(huì)特別強(qiáng)調(diào)尊重個(gè)人
的原則。該條例第21條規(guī)定數(shù)據(jù)主體對(duì)數(shù)據(jù)的存檔具有異議權(quán)，如果數(shù)據(jù)管理者不能提供不得不這樣做的正當(dāng)性根據(jù)（例如防止傳染病蔓延），就必須停止相應(yīng)的信息處理。第22條還進(jìn)一步規(guī)定，數(shù)據(jù)存檔等信息
自動(dòng)化處理本身不得給數(shù)據(jù)主體帶來(lái)任何法律效果。也就是說(shuō)，關(guān)于個(gè)人特征的完全自動(dòng)化評(píng)價(jià)，不得成為侵害該個(gè)人權(quán)益的決定的唯一根據(jù)。如果產(chǎn)生了諸如此類的重大影響，數(shù)據(jù)主體有權(quán)不服從。這種機(jī)制設(shè)
計(jì)是值得我國(guó)留意和借鑒的。
不得不承認(rèn)，我國(guó)以及各國(guó)的現(xiàn)行制度在保護(hù)人工智能方面仍然存在一些明顯的缺陷。我國(guó)的著作權(quán)法及其實(shí)施條例以及計(jì)算機(jī)軟件保護(hù)條例承認(rèn)軟件產(chǎn)品、程序以及相關(guān)文書的著作權(quán)，以獨(dú)立開發(fā)、登記以及固
定在實(shí)體物件上為前提條件給予法律保護(hù)，但關(guān)于算法即人工智能本身還沒有明文規(guī)定。如果算法是由復(fù)數(shù)的軟件程序構(gòu)成，當(dāng)然可以作為程序作品申請(qǐng)著作權(quán)上的保護(hù)，但算法即人工智能本身仍然無(wú)法申請(qǐng)專利
權(quán)。人工智能僅有算法并沒有實(shí)用價(jià)值，而必須與數(shù)據(jù)的學(xué)習(xí)結(jié)合起來(lái)才能產(chǎn)生真正的意義。但對(duì)需要大量投入資源的學(xué)習(xí)用數(shù)據(jù)以及學(xué)習(xí)方法，法律卻不能提供保護(hù)。還有學(xué)習(xí)完畢的模型也具有很大的經(jīng)濟(jì)價(jià)值
，需要對(duì)其利用問題制定必要的管理規(guī)則。隨著人工智能及其網(wǎng)絡(luò)化的加速發(fā)展，這些問題勢(shì)必層出不窮，需要在制度和機(jī)制的設(shè)計(jì)上及時(shí)跟進(jìn)甚至未雨綢繆。
此外還有人工智能與行業(yè)法規(guī)之間關(guān)系如何處理，也是非常重要的課題。例如人工智能在相當(dāng)程度上開始從事司法和法律服務(wù)，但從事法律實(shí)務(wù)活動(dòng)本來(lái)是存在嚴(yán)格的門檻限制的，需要通過國(guó)家考試取得必要的資
格。當(dāng)中國(guó)的“睿法官”機(jī)器人（北京）、“明鏡系統(tǒng)”（浙江）、“法務(wù)云”（江蘇）、美國(guó)的ROSS律師機(jī)器人、JUDICATA法官機(jī)器人紛紛用于業(yè)務(wù)處理，是否有違反法官法和律師法的嫌疑？如果人工智能被賦予法律
人格，那么能否也被賦予法官資格或律師資格？不言而喻，同樣的問題也存在于醫(yī)療等行業(yè)?，F(xiàn)在人工智能已經(jīng)廣泛應(yīng)用于疾病的預(yù)測(cè)、預(yù)防以及診療服務(wù)，如果醫(yī)療事故發(fā)生應(yīng)該如何追究責(zé)任正在成為熱議的話
題。以上描述的這一切都在告訴我們：討論對(duì)人工智能怎樣進(jìn)行適當(dāng)?shù)囊?guī)制，逐步建立和健全相關(guān)的法律、政策以及道德的規(guī)范秩序，此其時(shí)也。