2024年7月6日上午，“人工智能倫理治理的國際比較”閉門研討會在上海交通大學(xué)徐匯校區(qū)北四樓206會議室順利舉行。本次研討會由上海交通大學(xué)凱原法學(xué)院、中國法與社會研究院主辦。來自上海交通大學(xué)、中國社會科學(xué)院、中國信息通信研究院、耶魯大學(xué)、Safe Al Forum、Carnegie Endowment for International Peace（美國卡內(nèi)基國際和平研究院）、清華大學(xué)、上海人工智能實(shí)驗(yàn)室、同濟(jì)大學(xué)、華東理工大學(xué)等國內(nèi)外高校和研究機(jī)構(gòu)的專家學(xué)者，以及來自商湯科技、阿里研究院、聯(lián)想集團(tuán)等企業(yè)的專家共計(jì)近三十人參與研討，多名上海交通大學(xué)師生以及校外學(xué)者列席旁聽。
研討會開幕致辭環(huán)節(jié)由上海交通大學(xué)凱原法學(xué)院副院長、長聘教授林喜芬主持。林喜芬教授首先對所有參會人員的到來表示熱烈歡迎，并且簡單介紹了上海交通大學(xué)中國法與社會研究院的背景、本次研討會的主題、以及各位參會嘉賓的基本情況。
中國社會科學(xué)院法學(xué)所網(wǎng)絡(luò)與信息法研究室副主任周輝介紹了本次討論會的討論主旨，講述了本次研討會的籌備情況，并且期待本次研討會能夠?qū)?/span>《人工智能示范法（學(xué)者建議稿）》的完善提供進(jìn)一步的指導(dǎo)。
上海交通大學(xué)中國法與社會研究院院長、文科資深教授季衛(wèi)東發(fā)表致辭并進(jìn)行主旨報(bào)告。季衛(wèi)東教授首先代表上海交通大學(xué)中國法與社會研究院對各位參會人員的光臨表示熱烈歡迎。季衛(wèi)東教授提出，過去200年間，科技發(fā)展給人類社會帶來了三大重要變化：其一，內(nèi)燃機(jī)+電氣技術(shù)給人類帶來生活的自由；其二，互聯(lián)網(wǎng)+數(shù)字通信技術(shù)給人類帶來信息的自由；其三，大模型+腦機(jī)接口技術(shù)可能會帶來創(chuàng)新的自由。大模型顯示出巨大機(jī)遇的同時，也存在風(fēng)險(xiǎn)和不安，一是語言模型運(yùn)用海量數(shù)據(jù)會帶來隱私保護(hù)方面的憂慮；二是大模型泛化的過程可能造成虛假信息的傳播；三是大模型生成的內(nèi)容可能引發(fā)知識產(chǎn)權(quán)認(rèn)定和保護(hù)方面的復(fù)雜問題；四是大模型可能獲得企業(yè)、政府機(jī)構(gòu)的機(jī)密性信息，從而可能使信息社會發(fā)生功能障礙。針對人工智能治理，季衛(wèi)東教授提出基于價(jià)值的人工智能治理和基于程序的人工智能治理兩方面，并且強(qiáng)調(diào)要加強(qiáng)人工智能的國際協(xié)調(diào)合作。最后，季衛(wèi)東教授表示，期待本次研討會能夠?yàn)榇竽Ｐ蜁r代重構(gòu)倫理體系、加強(qiáng)人工智能治理國際合作提供思想啟示和實(shí)踐助力，并預(yù)祝本次會議取得豐碩的成果。
本次研討會的第一單元主題為國際視野下的人工智能倫理治理，由上海交通大學(xué)學(xué)術(shù)委員會秘書張蕾擔(dān)任主持。張蕾女士指出，上海交通大學(xué)是國內(nèi)最早把科技倫理放在大學(xué)治理層面進(jìn)行重視和建制的綜合性高校?？萍紓惱碇卫聿粌H是科技研發(fā)領(lǐng)域和法學(xué)領(lǐng)域?qū)＜谊P(guān)切的議題，也備受公眾和如高校戰(zhàn)略規(guī)劃辦公室在內(nèi)的社會微觀結(jié)構(gòu)所關(guān)注。同時，大學(xué)是促進(jìn)人類和平和繁榮的重要力量，更應(yīng)當(dāng)堅(jiān)持和捍衛(wèi)跨文化視角及國際視野。張蕾女士再次肯定了本次論壇的意義，并且期待本單元下五位學(xué)者的主題報(bào)告。
耶魯大學(xué)蔡中曾中國研究中心研究員Karman Lucero進(jìn)行主題報(bào)告，對美國的人工智能治理進(jìn)行總結(jié)和介紹。Karman Lucero研究員就美國最高法院近期備受關(guān)注的一案相關(guān)判決進(jìn)行了介紹，美國法學(xué)界很多學(xué)者認(rèn)為這些判決對美國包括人工智能治理在內(nèi)的治理領(lǐng)域影響非常大。此外，Karman Lucero研究員表示，目前最有影響力的州立法有二：其一是科羅拉多州對于人工智能、尤其是保險(xiǎn)領(lǐng)域人工智能的應(yīng)用；其二是加州的人工智能立法，其根據(jù)風(fēng)險(xiǎn)大小，制定不同的風(fēng)險(xiǎn)規(guī)避的規(guī)定。
Safe AI Forum研究員Muhammad Saad Siddiqui發(fā)表了題為“怎么找國際共識——比較的方法”的主題報(bào)告。Muhammad Saad Siddiqui研究員指出，比較分析可以加深對不同風(fēng)險(xiǎn)認(rèn)知的理解、學(xué)習(xí)其他國家治理方法、確定可能達(dá)成國際共識的領(lǐng)域。人工智能國際合作具有自下而上和自上而下兩方面，自上而下的方法是一個有用的過濾器，如何過濾取決于每個國家的風(fēng)險(xiǎn)認(rèn)知模式。最后，對于真正的全球性風(fēng)險(xiǎn)，需要比以往更快地達(dá)成共識，為了人類的共同和平和繁榮，共識非常重要。
Carnegie Endowment for International Peace（美國卡內(nèi)基國際和平研究院）Fellow of Asia Program（亞洲項(xiàng)目研究員）Matt Sheehan發(fā)表主題報(bào)告，他聚焦中美在人工智能領(lǐng)域的對話與合作，側(cè)重非政府間的有效對話、自下而上的過程。Matt Sheehan研究員表示，非政府間的相關(guān)互動和對話有兩個基本功能，其一是分享實(shí)踐中的做法，其二是建立雙方的信任。同時，國家間自上而下基于協(xié)議的安全很難得到實(shí)現(xiàn)，因而需要在非政府層面依賴技術(shù)和政策兩個生態(tài)系統(tǒng)層面不斷互動。
清華大學(xué)公共管理學(xué)院、法學(xué)院副教授陳天昊發(fā)表了題為“由生物醫(yī)學(xué)到人工智能：科技倫理審查機(jī)制如何構(gòu)建”的主題報(bào)告。報(bào)告首先介紹了近年來科技倫理審查成為重要議題的政策背景。其次，以美國、歐洲為例，比較分析生命科學(xué)與醫(yī)學(xué)倫理審查的全球視野。再次，以微軟、字節(jié)等企業(yè)為例探討數(shù)字科技企業(yè)實(shí)施倫理審查的探索，并指出科技倫理審查的一般框架，包括專業(yè)性、中立性、包容性、協(xié)同性。最后，提出目前制度建設(shè)的挑戰(zhàn)，包括專業(yè)性更強(qiáng)、中立性更難、包容性更復(fù)雜、協(xié)同性更敏感。
上海交通大學(xué)國務(wù)學(xué)院副教授賈開發(fā)表了題為“人工智能安全作為全球公共產(chǎn)品”的主題報(bào)告。報(bào)告提出，人工智能安全問題可能會走向企業(yè)和政府之間形成事實(shí)上相互依賴的狀態(tài)，對于政府和企業(yè)而言，對此的監(jiān)管不應(yīng)該成為規(guī)制的壓力，而是發(fā)展的核心動能。在他看來，統(tǒng)籌發(fā)展與安全不僅僅是宣言，可能成為一種新的發(fā)展模式。而人工智能安全公共產(chǎn)品的內(nèi)容是指通過各方努力促進(jìn)知識、能力、資源的增長，在此過程中真正形成相互連接的關(guān)系，促進(jìn)更多共識和合作的發(fā)生。
評議環(huán)節(jié)，上海人工智能實(shí)驗(yàn)室治理研究中心副研究員瞿晶晶總結(jié)了本單元五位報(bào)告人所作主題報(bào)告之間的宏觀邏輯。華東理工大學(xué)法學(xué)院講師肖夢黎從法學(xué)學(xué)者的角度，討論了如何看待人工智能治理從倫理道德層面的倡議性內(nèi)容變成規(guī)范化、法律化的具體措施。上海交通大學(xué)中國法與社會研究院助理研究員譚俊從三方面闡釋了人工智能倫理背后的深層困境。上海交通大學(xué)凱原法學(xué)院特聘教授沈偉從國際法的視角出發(fā)，對人工智能法律在國際規(guī)則市場中的共識達(dá)成持消極看法，并提出人工智能管理如果尚未達(dá)到共識，就不會是公共產(chǎn)品，而是可能帶來公共產(chǎn)品。
第二單元主題為合規(guī)實(shí)踐視野下的人工智能倫理，由商湯科技人工智能倫理與治理研究主任胡正坤擔(dān)任主持。胡正坤主任表示，人工智能倫理在中國背景下趨向成為合規(guī)義務(wù)，本次研討會聚集如此多法學(xué)界、產(chǎn)業(yè)界和實(shí)務(wù)界的專家學(xué)者是非常及時的討論。
同濟(jì)大學(xué)法學(xué)院助理教授朱悅發(fā)表了題為“人工智能的倫理周期”的主題報(bào)告，在溯源六十到七十年代人工智能倫理的新生，回顧八十到九十年代人工智能倫理的批判性反思，談及倫理和法律、以及倫理和安全的關(guān)系后，指出倫理、法律、安全三者間的關(guān)系在目前的人工智能治理語境下尤其需要厘清，人工智能倫理需努力促其有效，而非任其虛設(shè)。
阿里研究院研究員傅宏宇從業(yè)界研究者的視角發(fā)表主題報(bào)告。他實(shí)務(wù)出發(fā)指出了人工智能倫理治理的三個重要方面：首先，人工智能倫理審查形式易實(shí)質(zhì)難?？萍紓惱聿皇菃渭兎蓡栴}，還需要管理和技術(shù)手段落實(shí)，所以在實(shí)現(xiàn)的過程中會遇到各種難題。其次，現(xiàn)行科層制、流線化審查機(jī)制與人工智能發(fā)展嚴(yán)重矛盾、不相匹配。最后，人工智能倫理除卻是懸在每一個人頭上的達(dá)摩克利斯之劍，更重要的是搭建起所有人工智能科技開發(fā)者心中彼岸的橋梁。
聯(lián)想集團(tuán)法務(wù)總監(jiān)吳凡圍繞聯(lián)想集團(tuán)在人工智能科技倫理與法律合規(guī)展開主題報(bào)告。他結(jié)合聯(lián)想集團(tuán)近期發(fā)布人工智能合規(guī)政策，介紹了聯(lián)想集團(tuán)在科技倫理管理上的一些做法。該合規(guī)政策主要包括：其一，人工智能負(fù)責(zé)任的使用，確保不會傷害人。其二，確保AI公平、透明、可解釋，重視對環(huán)境、社會的影響。其三，有關(guān)數(shù)據(jù)治理和管理，是法律要求，也涉及科技倫理。聯(lián)想集團(tuán)在全球范圍內(nèi)推動人工智能立法聽證調(diào)研工作，多次參與人工智能科技倫理相關(guān)研討，希望用高度全球化的姿態(tài)促進(jìn)全球人工智能AI的科技合作，同時在道德倫理上形成相對統(tǒng)一的推進(jìn)。
評議環(huán)節(jié)，中國信息通信研究院互聯(lián)網(wǎng)法律研究中心主任何波總結(jié)了第二單元主題報(bào)告中的三個趨勢。其一，人工智能治理正在從原則加速邁向?qū)嵺`；其二，打造包容安全的人工智能工程；其三，治理碎片化協(xié)調(diào)。上海交通大學(xué)轉(zhuǎn)化醫(yī)學(xué)研究院副研究員郭舒揚(yáng)發(fā)表了對人工智能倫理審查及社會責(zé)任層面的看法。上海交通大學(xué)凱原法學(xué)院副教授邱遙堃提出，人工智能倫理治理對于協(xié)調(diào)、統(tǒng)籌人工智能發(fā)展具有重要意義。同時，歷史視角對于當(dāng)下新的人工智能技術(shù)非常必要。上海交通大學(xué)科研院學(xué)術(shù)發(fā)展與國際合作辦主任、科技倫理委員會秘書處辦公室主任酈音悅提出，在前端的基礎(chǔ)研究之上，后端的應(yīng)用研究可能探索更多的協(xié)同。
自由討論環(huán)節(jié)，參會人員圍繞人工智能的“安全”內(nèi)涵、人工智能倫理治理的國際合作等內(nèi)容進(jìn)行了深入的討論和交流。
研討會閉幕環(huán)節(jié)由上海交通大學(xué)凱原法學(xué)院長聘教授李學(xué)堯主持。李學(xué)堯教授首先對所有參會人員表示感謝。并且進(jìn)一步指出，人工智能倫理的跨學(xué)科、跨部門討論，特別是AI公司、學(xué)校和科研機(jī)構(gòu)的參與具有非常重要的意義，能夠切實(shí)推進(jìn)人工智能倫理審查的制度構(gòu)建。其次，對于人工智能倫理的討論，不僅僅是停留在原則層面，而是進(jìn)入到實(shí)際操作的層面，這對于人工智能立法也具有重要意義。
上海交通大學(xué)學(xué)術(shù)發(fā)展與成果處副處長韓海波發(fā)表閉幕致辭。他表示，科學(xué)、尤其基礎(chǔ)研究沒有國界，本次研討會匯聚了中外學(xué)者圍繞科技倫理的討論，是科技向善的一個重要推進(jìn)；其次，不同的主體對科技觀察視角的差異，揭示了科學(xué)的多重屬性，同時也意味著多元溝通的重要性；再次，對于人工智能而言，其發(fā)展帶來了不確定性，所以要對人工智能的發(fā)展秉承一個謹(jǐn)慎且樂觀的態(tài)度。在未來的發(fā)展中，企業(yè)作為創(chuàng)新的主體，是提出問題、并要回答問題的主要角色，大學(xué)給企業(yè)提供基礎(chǔ)研究的知識和人才的供給，而政府起到協(xié)調(diào)、保障、支持和監(jiān)管的作用。最后，中美人工智能技術(shù)的快速發(fā)展的同時也需要更多的科學(xué)產(chǎn)業(yè)的對話交流。
中國社會科學(xué)院法學(xué)所網(wǎng)絡(luò)與信息法研究室副主任周輝發(fā)表閉幕致辭，他從三個角度進(jìn)行了總結(jié)：其一，差異，正如本次研討會采用國際比較的視角，有來自中外的專家，圍繞人工智能治理的不同角度，貢獻(xiàn)了不同的話題和知識。其二，信任，未來構(gòu)建人工智能仍然要基于信任，至少讓人工智能技術(shù)的應(yīng)用和發(fā)展成為人類可以信任的安全方向。其三，人工智能并非一個國家的問題，而是是全人類的話題，所以面向未來可以共同開展合作和研究，共同應(yīng)對人工智能治理的新挑戰(zhàn)。
上海交通大學(xué)中國法與社會研究院院長、文科資深教授季衛(wèi)東發(fā)表閉幕致辭。季衛(wèi)東教授指出，本次研討會交織國際視角和企業(yè)視角，非常有意義。人工智能倫理問題現(xiàn)已轉(zhuǎn)到立法層面，立法必須建立在共識的基礎(chǔ)上，而企業(yè)的視角對于共識的取得非常重要。同時，以安全為目的達(dá)成共識，在共識的基礎(chǔ)上制定法律，這樣的法律才能符合當(dāng)今的需要。季衛(wèi)東教授再次代表中國法與社會研究院對各位參會人員的光臨、以及各位研討嘉賓的精彩分享表示感謝。
最后，參會人員共同合影留念。
