共同進(jìn)化式人工智能與計(jì)算法學(xué)的新維度
——在CCF計(jì)算法學(xué)分會(huì)第三屆年會(huì)開幕式上的致辭
季衛(wèi)東
尊敬的郭雷院士、劉建亞校長(zhǎng)、臧根林秘書長(zhǎng)、各位嘉賓和專家、CCF計(jì)算法學(xué)分會(huì)各位執(zhí)行委員：
2024年諾貝爾物理學(xué)獎(jiǎng)、化學(xué)獎(jiǎng)都授予人工智能技術(shù)及其科學(xué)應(yīng)用的發(fā)現(xiàn)和發(fā)明，引起一片驚愕，也讓所有人都更清楚地認(rèn)識(shí)到：我們正處于人工智能的數(shù)字大革命之中。就在這樣的背景下，我們迎來CCF計(jì)算法學(xué)分會(huì)成立三周年，第三屆年會(huì)在今天正式開幕，讓我們對(duì)未來三年的前景充滿期待和緊張。
本屆年會(huì)的主題聚焦“計(jì)算法學(xué)與國(guó)家治理現(xiàn)代化”，由郭雷院士、時(shí)建中副校長(zhǎng)、左衛(wèi)民院長(zhǎng)、栗崢副校長(zhǎng)做主旨報(bào)告，還設(shè)有兩場(chǎng)主題報(bào)告和四個(gè)分論壇，內(nèi)容十分豐富。在這里，我僅代表CCF計(jì)算法學(xué)分會(huì)，還有所屬的上海交通大學(xué)中國(guó)法與社會(huì)研究院，向主辦單位中國(guó)計(jì)算機(jī)學(xué)會(huì)、作為共同承辦單位的山東大學(xué)威海校區(qū)數(shù)據(jù)科學(xué)研究院和法學(xué)院以及山東系統(tǒng)與計(jì)算法學(xué)研究中心致敬和致謝，并對(duì)各個(gè)協(xié)辦單位以及光臨大會(huì)的所有嘉賓和同仁表示熱烈的歡迎！當(dāng)然還要特別對(duì)負(fù)責(zé)承辦具體工作的王芳教授及其團(tuán)隊(duì)所付出的辛勞表達(dá)由衷的謝意！
所謂國(guó)家治理的現(xiàn)代化，包括兩個(gè)基本方面。一個(gè)是通過法治實(shí)現(xiàn)國(guó)家權(quán)力的理性化，并提高治理的效率。另一個(gè)是通過人本主義擴(kuò)大個(gè)體的自由度，提高治理的公正。人工智能可以大幅度提高效率，這是毫無疑義的。但是，人工智能會(huì)不會(huì)使世界進(jìn)入后人類（Post Human）或者后人本主義的時(shí)代？這還是個(gè)問題，正在引發(fā)爭(zhēng)論。與此相關(guān)，尤瓦爾?赫拉利在《未來簡(jiǎn)史》中提到一個(gè)重要的概念“Homo Deus（神人）”，在我國(guó)似乎還沒有得到充分的重視。后人類、跨人類、神人或者超人會(huì)不會(huì)形成對(duì)人類及其個(gè)體的碾壓，或許將構(gòu)成對(duì)現(xiàn)代國(guó)家治理體制的一種嚴(yán)峻挑戰(zhàn)。
這兩、三年間，大模型飛速迭代，生成式人工智能正在影響到日常生活的方方面面。通過人機(jī)共存和人機(jī)對(duì)話形成的這種生成式話語秩序，正在使每個(gè)人都生活在作為集合的相互作用之中?！拔摇?/span>的觀念勢(shì)必相對(duì)化，“我們”將越來越成為生活世界的主語。換句話說，在生成式人工智能強(qiáng)勢(shì)崛起的當(dāng)下，哲學(xué)和法學(xué)的思維方式從個(gè)體的“我”轉(zhuǎn)向集體的“我們”的趨勢(shì)實(shí)際上變得更加難以阻擋了。盡管計(jì)算機(jī)系統(tǒng)用戶的基本單位依然以個(gè)人為單位，還是按一人一賬戶以及自律式個(gè)體自由的原則來進(jìn)行認(rèn)證和管理數(shù)據(jù)的，但是，在社交網(wǎng)絡(luò)中一度膨脹化的自我，在進(jìn)入生成式人工智能階段之后，日益融合到大模型之中，日益融合到相互作用的集合之中，轉(zhuǎn)化為話語秩序中的“我們”而重新呈現(xiàn)出來。從個(gè)體本位到集體本位，這是計(jì)算法學(xué)以及數(shù)字法治都不得不面對(duì)的社會(huì)范式和研究范式的根本性變化。
另外，傳統(tǒng)意義上的司法判斷在很大程度上基于經(jīng)驗(yàn)法則。因此，法官與律師以及當(dāng)事人之間不得不進(jìn)行一場(chǎng)又一場(chǎng)“不完全信息博弈”。鑒于時(shí)間和信息的有限性，法官必須把案件的具體情況抽象化，變成簡(jiǎn)單的規(guī)則來進(jìn)行處理。只有在少數(shù)簡(jiǎn)易案件的場(chǎng)合，才存在事實(shí)與法律都很明確清晰的“完全信息博弈”。但是，具有機(jī)器學(xué)習(xí)能力的人工智能，是在龐大的數(shù)據(jù)庫(kù)中，通過全數(shù)據(jù)集來選擇最佳解決方案。因此，智慧司法的本質(zhì)是把所有的不完全信息博弈都轉(zhuǎn)化為完全信息博弈來處理，從而可以對(duì)復(fù)雜的具體情況進(jìn)行復(fù)雜的應(yīng)對(duì)。當(dāng)然，人工智能一直存在所謂框架問題和符號(hào)接地問題的局限，也很難充分反映人類的直覺、常識(shí)、默示知識(shí)以及價(jià)值判斷。但是，語言大模型和多模態(tài)大模型把包涵直覺、常識(shí)、默示知識(shí)以及價(jià)值判斷的所有行蹤數(shù)據(jù)，還有圖片、聲音、影像等所有表達(dá)數(shù)據(jù)，統(tǒng)統(tǒng)都納入學(xué)習(xí)和提煉模型的范圍之內(nèi)。這就可以在相當(dāng)程度上化解了所謂框架問題和符號(hào)接地問題。何況人型機(jī)器人還可以通過給人工智能設(shè)定身體性或物理界限，通過限定信息處理范圍的方式增加人工智能的知識(shí)彈性，這就存在超越深度學(xué)習(xí)、不必完全以數(shù)據(jù)規(guī)模來定勝負(fù)的可能性。人工智能技術(shù)如此神速的進(jìn)步，意味著智慧法院的審判方式也將實(shí)現(xiàn)從量變到質(zhì)變的飛躍。
在很長(zhǎng)一段時(shí)期內(nèi)，人工智能的確取決于算法，基本上一直屬于計(jì)算的世界。因此我們?cè)诳紤]法律與人工智能之間關(guān)系時(shí)，只談?dòng)?jì)算法學(xué)，只談算法的可解釋性和算法公正就基本上可以萬事大吉了。在這個(gè)意義上，計(jì)算法學(xué)與人工智能治理的關(guān)系，可以用XAI（可解釋人工智能）來一言以蔽之。但是，在當(dāng)今的形勢(shì)下生成式人工智能快速迭代、人機(jī)共存和人機(jī)對(duì)話成為社會(huì)的常態(tài)，計(jì)算法學(xué)還必須導(dǎo)入一個(gè)新的關(guān)鍵詞：CAI——Co-evolutional AI，也就是人機(jī)共同進(jìn)化式人工智能。這意味著人工智能正在邁進(jìn)新的階段，人工智能治理也勢(shì)必隨之邁進(jìn)新的階段。很可能會(huì)出現(xiàn)某種人類無法理解的智能。當(dāng)人工智能可以自我撰寫代碼、修改程序，那么大數(shù)據(jù)中固有的黑箱性也必然會(huì)在生成式人工智能中進(jìn)一步強(qiáng)化，甚至誘發(fā)人工智能失控的風(fēng)險(xiǎn)以及社會(huì)不安。
鑒于人工智能發(fā)展的這種新局面，AI安全已然成為當(dāng)今世界關(guān)注的一個(gè)焦點(diǎn)。從AI安全的視角來考察，究竟如何正確對(duì)待人工智能立法，必將成為今后三到五年期間人工智能領(lǐng)域和計(jì)算法學(xué)界的一個(gè)中心課題。今年春天在澳門召開聯(lián)合國(guó)大學(xué)AI國(guó)際研討會(huì)上，我的發(fā)言分析了人工智能立法的四種模式，即歐盟的硬法模式、美國(guó)和日本的軟法模式、中國(guó)的軟硬兼施模式以及新加坡的程序技術(shù)模式，特別強(qiáng)調(diào)立法者必須在人工智能研發(fā)與人工智能安全之間保持適當(dāng)?shù)钠胶狻Ｎ艺J(rèn)為，如果大模型的技術(shù)研發(fā)不僅是AI治理的對(duì)象，也可以反過來為AI治理賦能，那么科技企業(yè)就不會(huì)對(duì)人工智能立法感到憂心忡忡。實(shí)際上，如果大模型的安全研究通過技術(shù)-程序的進(jìn)路能夠形成測(cè)試、評(píng)估以及監(jiān)控的工具箱，其中包括推廣數(shù)字水印技術(shù)、開發(fā)AI驗(yàn)證小模型、形成AIGC打假系統(tǒng)、建立AI倫理管理指標(biāo)體系和認(rèn)證平臺(tái)、編制AI安全保障網(wǎng)，那么監(jiān)管與發(fā)展就不再是一種零和游戲，AI治理還能為AI研發(fā)開拓出新的投資機(jī)遇或者市場(chǎng)空間，通過錯(cuò)位競(jìng)爭(zhēng)構(gòu)成企業(yè)的科技藍(lán)海。站在這個(gè)立場(chǎng)上來看，CCF計(jì)算法學(xué)分會(huì)應(yīng)該積極參與關(guān)于人工智能立法的討論，以拓展計(jì)算法學(xué)研究的空間，擴(kuò)大本學(xué)術(shù)機(jī)構(gòu)的社會(huì)影響力。
我相信，CCF計(jì)算法學(xué)分會(huì)第三屆年會(huì)將圍繞上述但不限于這些問題進(jìn)行廣泛而深入的探討，并進(jìn)一步促進(jìn)圍繞人工智能與法律的跨學(xué)科、跨界別的對(duì)話和溝通，必將以人工智能為杠桿推動(dòng)法治的范式創(chuàng)新。預(yù)祝第三屆CCF計(jì)算法學(xué)分會(huì)年會(huì)取得圓滿成功！