《人工溝通與法：算法如何生產(chǎn)社會(huì)智能》
埃琳娜·埃斯波西托著，翁壯壯譯
內(nèi)容簡(jiǎn)介
本書是探討現(xiàn)代社會(huì)的算法如何生產(chǎn)社會(huì)智能的一部著作。埃琳娜·埃斯波西托（Elena Esposito）教授在本書中沿襲其導(dǎo)師尼可拉斯·盧曼（Niklas Luhmann）的“社會(huì)溝通”理論，指出機(jī)器學(xué)習(xí)等數(shù)字技術(shù)不是人工智能，而是“人工溝通”。在算法和人類智能之間進(jìn)行這種類比是一種誤導(dǎo)。如果機(jī)器對(duì)社會(huì)智能有貢獻(xiàn)，那不是因?yàn)樗鼈儗W(xué)會(huì)了如何像人類一樣思考，而是因?yàn)槿祟悓W(xué)會(huì)了如何與它們進(jìn)行溝通?！叭斯贤ā币馕吨祟惖臏贤ɑ锇榭赡懿皇侨祟?，而是算法。根據(jù)算法在社會(huì)生活的不同領(lǐng)域中的使用，本書深入探索了人類與算法互動(dòng)、在線網(wǎng)絡(luò)列表的激增、數(shù)字本文分析中的可視化、算法個(gè)性化與數(shù)字畫像、數(shù)字記憶與被遺忘權(quán)、遺忘圖像、算法預(yù)測(cè)、法律AI的透明度與解釋等數(shù)字社會(huì)的前沿問題。相信本書在幫助中國(guó)讀者準(zhǔn)確了解當(dāng)代數(shù)字社會(huì)的同時(shí)，也能促進(jìn)我們對(duì)數(shù)字法學(xué)與計(jì)算法學(xué)領(lǐng)域中前沿問題的深入思考。
作者簡(jiǎn)介
埃琳娜?埃斯波西托（Elena Esposito），社會(huì)學(xué)博士，德國(guó)比勒費(fèi)爾德大學(xué)和意大利博洛尼亞大學(xué)的社會(huì)學(xué)教授，研究領(lǐng)域?yàn)樯鐣?huì)理論、金融社會(huì)學(xué)與數(shù)字社會(huì)學(xué)，是當(dāng)代德國(guó)社會(huì)系統(tǒng)論的代表性學(xué)者。其最初在博洛尼亞大學(xué)跟隨安伯托·艾可（Umberto Eco）學(xué)習(xí)哲學(xué)，后來在比勒菲爾德大學(xué)跟隨尼可拉斯·盧曼（Niklas Luhmann）學(xué)習(xí)社會(huì)學(xué)并獲得社會(huì)學(xué)博士學(xué)位。其研究項(xiàng)目“預(yù)測(cè)的未來：保險(xiǎn)、醫(yī)學(xué)和警務(wù)領(lǐng)域算法預(yù)測(cè)的社會(huì)后果”得到了歐洲研究委員會(huì)五年期高級(jí)資助的支持。
譯者簡(jiǎn)介：翁壯壯，上海交通大學(xué)凱原法學(xué)院博士研究生，上海交通大學(xué)中國(guó)法與社會(huì)研究院研究助理。曾在《交大法學(xué)》《人權(quán)研究》《法律方法》等刊物上發(fā)表論文，研究領(lǐng)域?yàn)榉上到y(tǒng)論、法律方法論、數(shù)字社會(huì)學(xué)。
原書導(dǎo)言
在處理越來越多的事情方面，與深度學(xué)習(xí)和大數(shù)據(jù)協(xié)同工作的算法越來越擅長(zhǎng)做越來越多的事情：它們可以快速而準(zhǔn)確地生成信息，并且正在學(xué)習(xí)比人類更安全可靠地駕駛汽車。它們可以回答我們的問題、進(jìn)行對(duì)話、創(chuàng)作音樂和閱讀書籍。他們甚至可以寫出有趣的、恰當(dāng)?shù)模遥ㄈ绻枰脑挘┯哪奈谋尽?/span>
然而，在觀察這一進(jìn)展時(shí)，我們很少能完全放松——這不僅是因?yàn)槲覀儞?dān)心偏差、錯(cuò)誤、隱私威脅或公司和政府的惡意使用。實(shí)際上，算法變得越好，我們的不適感就越大?！都~約客》最近的一篇文章描述了一位記者使用“智能撰寫”的體驗(yàn)，“智能撰寫”是谷歌郵箱的一項(xiàng)功能，可在您輸入句子時(shí)為其提示結(jié)尾。該算法如此恰當(dāng)、中肯地完成了記者的電子郵件，并符合他的風(fēng)格，以致于記者發(fā)現(xiàn)自己從機(jī)器中不僅學(xué)習(xí)了他會(huì)寫的內(nèi)容，而且還學(xué)習(xí)了他應(yīng)該寫的（并且沒有想到的）內(nèi)容，或者想寫的內(nèi)容。他一點(diǎn)也不喜歡這種感覺。
這種體驗(yàn)在我們與所謂的智能機(jī)器的互動(dòng)中極為常見，被稱為“恐怖谷”： 在機(jī)器看起來與人類或觀察者自身過于相似的情況下，人類會(huì)出現(xiàn)一種令其毛骨悚然的不適感。我們希望機(jī)器支持自己的思想和行為，但是當(dāng)我們發(fā)現(xiàn)機(jī)器自身似乎有思想和行為時(shí)，我們會(huì)感到不舒服。今天，我們每個(gè)人都習(xí)慣于與自動(dòng)化程序（機(jī)器人）進(jìn)行溝通，而很少關(guān)注它們的本質(zhì)——當(dāng)我們?cè)诰€購(gòu)買機(jī)票時(shí)，當(dāng)我們?cè)诰W(wǎng)絡(luò)上尋求幫助時(shí)，當(dāng)我們?cè)谕骐娮佑螒驎r(shí)，以及在許多其他場(chǎng)合。然而，當(dāng)我們反思或辯論算法的主題時(shí)，我們?nèi)匀粫?huì)發(fā)現(xiàn)自己在討論諸如機(jī)器通過圖靈測(cè)試的可能性、 技術(shù)“奇點(diǎn)”的到來或遠(yuǎn)超人類能力的超級(jí)智能的創(chuàng)造等話題。雖然我們將自己與機(jī)器做比較，卻并不喜歡機(jī)器獲勝。在我們努力打造智能機(jī)器的過程中，我們不僅想知道我們是否成功了，而且還想知道機(jī)器是否變得太聰明了。
但這真的是我們需要擔(dān)心的嗎？雖然我們可能會(huì)對(duì)與我們太相似的機(jī)器產(chǎn)生一種怪異的感覺，但我們是否應(yīng)該認(rèn)為，算法的基本風(fēng)險(xiǎn)在于它們可能會(huì)與人類智能進(jìn)行比較或競(jìng)爭(zhēng)？這本書的出發(fā)點(diǎn)是假設(shè)算法性能和人類智能之間的類比不僅沒有必要，而且還具有誤導(dǎo)性——即使它們背后的推理似乎是合理的。畢竟，今天很多算法似乎都能夠進(jìn)行“思考”和溝通。在我們所知的溝通中，我們的合作伙伴一直是人，而人則被賦予了智慧。如果我們的對(duì)話者是一種算法，我們會(huì)沖動(dòng)地將人類的特征歸因于“他”或“她”。如果機(jī)器可以自主溝通，人們會(huì)認(rèn)為，“它也一定是智能的”，盡管可能與人類不同。在這個(gè)類比的基礎(chǔ)上，研究集中在人類智能和機(jī)器性能之間的相似和差異之處，觀察它們的極限并進(jìn)行比較。但是繼續(xù)遵循這個(gè)類比真的可取嗎？
筆者認(rèn)為，我們可以與機(jī)器溝通并不意味著需要解釋機(jī)器的智能（這種解釋可能還需要解釋“自然”智能的奧秘），但最重要的是，溝通正在發(fā)生變化。本書的研究對(duì)象并非智能而是溝通，智能至今并且仍然還是一個(gè)謎，但我們可以觀察到溝通，并且我們已經(jīng)對(duì)溝通了解甚多。例如，我們知道幾個(gè)世紀(jì)以來，隨著人類社會(huì)的發(fā)展，溝通是如何變化的。我們知道，溝通已經(jīng)從共享物理空間的各方之間的簡(jiǎn)單互動(dòng)，轉(zhuǎn)變?yōu)楦`活和更具包容性的形式，這也允許在越來越匿名和非個(gè)人化的環(huán)境中，與以前無法訪問的遙遠(yuǎn)時(shí)空中的伙伴進(jìn)行溝通。
在溝通的發(fā)展過程中，人類的角色發(fā)生了深刻的變化。如今已經(jīng)不需要所溝通的伙伴在場(chǎng)；無需知道他們是誰，以及他們?yōu)槭裁礈贤?，也無需知道他們的意思并加以考慮。我們可以閱讀和理解洗碗機(jī)的說明書，而不知道是誰寫的，并且也可以不認(rèn)同作者的觀點(diǎn)；我們解釋一件藝術(shù)作品，可以不受藝術(shù)家觀點(diǎn)和意圖的約束。大多數(shù)信息不需要存儲(chǔ)在某人的腦海中（沒有人會(huì)時(shí)刻牢記《民法典》），在所有虛構(gòu)的情況下，我們認(rèn)同小說和電影中的人物，知道他們并非真實(shí)存在，而且他們不是他們所進(jìn)行的溝通的作者。如果不是在理論層面，而是在實(shí)踐中，成功的溝通是在參與者的思想之間精確共享相同內(nèi)容的想法，在許多世紀(jì)以來一直是不現(xiàn)實(shí)的。在大多數(shù)情況下，告知者和接收者彼此不認(rèn)識(shí)，彼此不知道對(duì)方的觀點(diǎn)、背景或約束條件，也不需要這樣做。相反，這種透明度的缺乏還帶來了無法想象的自由度和抽象度。
溝通形式的改變并不新鮮，也不是一個(gè)謎。相反，問題在于識(shí)別和理解新舊形式之間的差異和連續(xù)性。如今，來自參與者認(rèn)知過程的溝通自主性已經(jīng)更進(jìn)一步。我們需要一個(gè)溝通概念，它可以考慮到溝通伙伴或許不是人類而是算法的可能性。今天已經(jīng)觀察到的結(jié)果是，在這種情況下，我們掌握了我們經(jīng)常無法重建其發(fā)展或起源的信息，但這并不是恣意的。算法自主生成的信息根本不是隨機(jī)的，而是完全受控的——但其不受人類思維過程的控制。
我們?nèi)绾慰刂七@種控制，這對(duì)我們來說也是難以理解的嗎？在筆者看來，這是當(dāng)今機(jī)器學(xué)習(xí)技術(shù)和大數(shù)據(jù)的使用給我們帶來的真正挑戰(zhàn)。本書的章節(jié)詳細(xì)闡述了這一觀點(diǎn)，同時(shí)研究了算法在社會(huì)生活不同領(lǐng)域里的使用。如果我們將算法的運(yùn)作視為溝通而不是智能，我們將看到什么？將看不到什么？或者將看到什么不同的東西？
本書首先討論了人工智能的經(jīng)典隱喻以及神經(jīng)網(wǎng)絡(luò)等衍生工具的充分性，以分析數(shù)字技術(shù)和網(wǎng)絡(luò)的最新發(fā)展。最新一代的算法以各種形式引起了大數(shù)據(jù)和相關(guān)項(xiàng)目的使用，卻并沒有試圖人為地再現(xiàn)人類智能的過程。筆者認(rèn)為，這既不是放棄，也不是弱點(diǎn)，而是它們?cè)谛畔⑻幚砗团c用戶互動(dòng)能力方面無與倫比的效率基礎(chǔ)。機(jī)器第一次能夠產(chǎn)生人類思維從未考慮過的信息，并充當(dāng)有趣和有能力的溝通伙伴——不是因?yàn)樗鼈冏兊寐斆髁?，相反，這是因?yàn)樗鼈儾辉賴L試這樣做了。驅(qū)動(dòng)算法的過程與人類思維的過程完全不同，事實(shí)上，沒有人類思維或人類思維的組合可以再現(xiàn)它們，更不用說理解算法的決策過程了。然而，人類的智慧仍然不可或缺。自學(xué)習(xí)算法能夠以驚人的效率計(jì)算、組合和處理差異，但它們不能自己產(chǎn)生差異。網(wǎng)絡(luò)環(huán)境中的自學(xué)習(xí)算法有其獨(dú)特之處。通過大數(shù)據(jù)，算法“喂養(yǎng)”個(gè)人及其行為（有意或無意地）產(chǎn)生的差異，以產(chǎn)生新的、令人驚訝的和潛在的指導(dǎo)信息。算法過程從用戶的智能和不可預(yù)測(cè)性（來自偶聯(lián)性）出發(fā)，對(duì)其進(jìn)行重做并像溝通伙伴那樣實(shí)現(xiàn)智能運(yùn)作，而無需算法自身變得智能化。
隨后的章節(jié)探討了這種情況在算法實(shí)際工作中的結(jié)果。在第二章中，筆者將數(shù)字化社會(huì)中列表的增殖追溯到自古以來就為人所知的一個(gè)關(guān)于列表的事實(shí)：它們使管理人們所不理解的信息成為可能——結(jié)果是可能產(chǎn)生新的信息。筆者在第三章中分析了可視化在數(shù)字人文學(xué)科中的使用，將其作為一種使算法文本處理過程中難以理解的結(jié)果變得有意義的技術(shù)。第四章涉及數(shù)字畫像和算法個(gè)體化，它們實(shí)現(xiàn)了標(biāo)準(zhǔn)個(gè)性化和一般語境化的矛盾形式，從而重新定義了“語境參考”和“活躍公眾”的含義。第五章的重點(diǎn)是試圖通過算法實(shí)現(xiàn)遺忘技術(shù)（“記住要忘記”）所固有的謎團(tuán)，該章討論了將算法用于此目的的可能性，原因是算法無法做到這一點(diǎn)。最后，第六章探討了數(shù)字化對(duì)照片使用的影響，如今，照片的制作似乎是為了逃避當(dāng)下的壓力，而不是為了將體驗(yàn)保存為記憶。
本書在第7章中對(duì)算法預(yù)測(cè)進(jìn)行了分析，并通過回歸智能及其數(shù)字形式來結(jié)束本書的探索。隨著越來越高效的算法越來越缺乏透明度，一種想法正在出現(xiàn)，即機(jī)器之所以難以理解，主要是因?yàn)槠錄]有什么可理解的。之所以其沒有什么可理解的，是因?yàn)闄C(jī)器并不去理解。算法看起來很聰明，不是因?yàn)樗鼈兛梢岳斫?，而是因?yàn)樗鼈兛梢灶A(yù)測(cè)。正如“開放AI”的首席科學(xué)家伊利亞·薩茨克維爾在描述自動(dòng)寫作軟件時(shí)明確指出的那樣：“如果一臺(tái)機(jī)器……可以有足夠的數(shù)據(jù)和計(jì)算能力來完美預(yù)測(cè)……這就相當(dāng)于理解?！?/span>
預(yù)測(cè)是智能人工形式研究的新視野，它從根本上改變了問題所運(yùn)用的術(shù)語，即當(dāng)你使用算法時(shí)，問題不是解釋而是預(yù)測(cè)，不是識(shí)別因果關(guān)系而是找到相關(guān)性，不是管理未來的不確定性而是發(fā)現(xiàn)其結(jié)構(gòu)（模式）。然而，世界仍然不確定，未來仍然開放，算法的使用仍然需要解釋。在筆者看來，今天出現(xiàn)了控制問題和算法挑戰(zhàn)——在意義、偶聯(lián)性和不確定性仍然是寶貴資源的全球社會(huì)中，如何管理算法意義自主的程序的影響。
[1] SEABROOK, J. Can a Machine Learn to Write for the New Yorker? [M]//New Yorker,2019-10-14.
[2] MORI, M. The Uncanny Valley[J]. Translated by Karl F. MacDorman, and Norri Kageki. IEEE Robotics and Automation,2012,19(2): 98-100. https://doi.org/10.1109/MRA.2012.219281.. 譯者注：恐怖谷理論（另名詭異谷，英語：Uncanny Valley；日語：不気味の谷現(xiàn)象）是一個(gè)關(guān)于人類對(duì)機(jī)器人和非人類物體的感覺的假設(shè)。它在1970年由日本機(jī)器人專家森政弘提出，但恐怖谷一詞由恩斯特·詹池于1906年的論文《恐怖谷心理學(xué)》中提出，而他的觀點(diǎn)被弗洛伊德在1919年的論文《恐怖谷》中闡述，因而成為著名理論。森政弘的假設(shè)指出，由于機(jī)器人與人類在外表、動(dòng)作上相似，所以人類亦會(huì)對(duì)機(jī)器人產(chǎn)生正面的情感；直到一個(gè)特定程度，他們的反應(yīng)便會(huì)突然變得極為負(fù)面。哪怕機(jī)器人與人類只有一點(diǎn)點(diǎn)的差別，都會(huì)顯得非常顯眼刺眼，顯得非常僵硬恐怖，使人有面對(duì)僵尸的感覺?？墒牵?dāng)機(jī)器人和人類的相似度繼續(xù)上升，相當(dāng)于普通人之間的相似度的時(shí)候，人類對(duì)他們的情感反應(yīng)會(huì)再度回到正面，產(chǎn)生人類與人類之間的移情作用?？植拦纫辉~用以形容人類對(duì)跟他們相似到特定程度之機(jī)器人的排斥反應(yīng)。而谷就是指在研究里好感度對(duì)相似度的關(guān)系圖中，在相似度臨近100%前，好感度突然墜至反感水平，回升至好感前的那段范圍。
[3] 關(guān)于算法以自然方式進(jìn)行復(fù)雜對(duì)話的能力，請(qǐng)參見WELCH C. Google Just Gave a Stunning Demo of Assistant Making an Actual Phone Call[OL]. The Verge[2018-05-08]. https://www.theverge.com/2018/5/8/17332070/google-assistant-makes-phone-call-demo-duplex-io-201..
[4] 艾倫·圖靈（Alan Turing）在《計(jì)算機(jī)械與智能》（Computing Machinery and Intelligence）中提出了圖靈測(cè)試，來評(píng)估機(jī)器表現(xiàn)出智能行為的能力。如果觀察者無法將計(jì)算機(jī)在自然語言對(duì)話中的貢獻(xiàn)與其人類同伴的貢獻(xiàn)區(qū)分開來，則機(jī)器通過了測(cè)試。
[5] 參見，例如KURZWEIL R. The Singularity Is Near[M]. New York: Viking Books, 2005; BOSTROM N. Superintelligence: Paths, Dangers, Strategies[M].Oxford: Oxford University Press, 2014.
[6] SEARLE J R. Mind, Brains and Programs[J]. Behavioral and Brain Sciences,1980,3(3): 417-457.以及NEGARESTANI R. Intelligence and Spirit[M]. Cambridge, MA: Urbanomic/Sequence Press, 2018.
[7] ECO U. Opera aperta[M].Milan: Bompiani, 1962.
[8] 顯然，它們受到控制并不意味著它們是正確的、中立的，或者應(yīng)該毫無保留或批評(píng)地接受。正如反饋的動(dòng)態(tài)所顯示的那樣，控制的存在并不排除風(fēng)險(xiǎn)、操縱或負(fù)面結(jié)果。另一方面，眾所周知，人為控制當(dāng)然不是成功的保證，甚至也不是理性的保證。
[9] 引用自SEABROOK, J. Can a Machine Learn to Write for the New Yorker? [J].New Yorker,2019-10-14.
目錄
導(dǎo)論
第一章：人工溝通？——算法作為互動(dòng)伙伴
人工溝通
我們可以與不思考的伙伴溝通嗎？
虛擬的偶聯(lián)性
谷歌化
算法學(xué)到什么
學(xué)習(xí)從機(jī)器中學(xué)習(xí)
結(jié)論
第二章：未經(jīng)理解的組織：古代和數(shù)字文化中的列表
列表、評(píng)級(jí)、排名
寫作、語境和抽象
列表機(jī)器
結(jié)論
第三章：閱讀圖像：數(shù)字文本分析中的可視化和解釋
非語言文學(xué)分析
探索圖像
視覺刺激
閱讀、非閱讀、遠(yuǎn)距離閱讀
算法式閱讀不是算法閱讀
結(jié)論
第四章：算法個(gè)性化
匿名個(gè)性化
個(gè)人的網(wǎng)絡(luò)
個(gè)性化和標(biāo)準(zhǔn)化
畫像：語境化或行為化？
數(shù)字溝通的諸形式
結(jié)論
第五章：算法記憶和被遺忘權(quán)
記住去遺忘
數(shù)據(jù)驅(qū)動(dòng)代理
網(wǎng)絡(luò)社會(huì)的記憶
沒有記住的遺忘
數(shù)據(jù)驅(qū)動(dòng)記憶
結(jié)論
第六章：遺忘圖像
攝影體驗(yàn)
要記住的圖像
現(xiàn)在的風(fēng)險(xiǎn)
特定時(shí)間的體驗(yàn)
結(jié)論
第七章：預(yù)測(cè)的未來：從統(tǒng)計(jì)的不確定性到算法預(yù)測(cè)
開放未來的不確定性
算法預(yù)測(cè)的占卜面向
管理未來的不確定性
平均值vs個(gè)體化預(yù)測(cè)
制造可預(yù)測(cè)的未來
當(dāng)正確的預(yù)測(cè)錯(cuò)誤時(shí)
失明和過擬合
記憶與幻想
結(jié)論
結(jié)語
作者致謝
參考文獻(xiàn)
附：透明度與解釋：模糊性在法律AI中的作用
簡(jiǎn)介：從人工智能到人工溝通
對(duì)難以理解的機(jī)器的詮釋
解釋需要透明度嗎？
人工理性與機(jī)器法學(xué)
模糊性在法律論證中的作用
結(jié)論：與機(jī)器溝通
譯后記