6月29日，安遠(yuǎn)AI創(chuàng)始人、牛津大學(xué)人工智能治理中心政策研究員謝旻希來訪上海交通大學(xué)中國(guó)法與社會(huì)研究院。上海交通大學(xué)文科資深教授、中國(guó)法與社會(huì)研究院院長(zhǎng)季衛(wèi)東，上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系教授吳晨濤與來訪嘉賓就面向大模型和通用人工智能安全和對(duì)齊問題等進(jìn)行了深入的討論和交流。上海交通大學(xué)中國(guó)法與社會(huì)研究院辦公室主任許月、研究助理趙澤睿參加晤談。
季衛(wèi)東院長(zhǎng)對(duì)謝旻希先生的到訪表示歡迎，他介紹了依托中國(guó)法與社會(huì)研究院成立的“人工智能治理與法律研究中心”、“計(jì)算法學(xué)與AI倫理研究中心”等相關(guān)平臺(tái)的背景與研究?jī)?nèi)容。他表示，中國(guó)法與社會(huì)研究院當(dāng)前主要聚焦人工智能治理與法律相關(guān)問題、司法與大數(shù)據(jù)、認(rèn)知科學(xué)與人工智能三個(gè)方向的研究，可以從這些方向與安遠(yuǎn)AI展開合作。
謝旻希執(zhí)行董事對(duì)安遠(yuǎn)AI進(jìn)行了詳細(xì)的介紹。安遠(yuǎn)AI是一家專注AI安全和治理的咨詢機(jī)構(gòu)，以引領(lǐng)人機(jī)關(guān)系走向安全、可信、可靠的未來為使命。其主要業(yè)務(wù)是面向大模型和通用人工智能安全和對(duì)齊問題進(jìn)行風(fēng)險(xiǎn)研判、建立技術(shù)社區(qū)、開展治理研究、提供戰(zhàn)略咨詢、推動(dòng)國(guó)際交流。在2023年的北京智源大會(huì)，安遠(yuǎn)AI聯(lián)合舉辦和支持“AI安全與對(duì)齊”分論壇，邀請(qǐng)到包括OpenAI CEO Sam Altman,圖靈獎(jiǎng)得主Geoffrey Hinton等與海內(nèi)外AI專家和領(lǐng)袖進(jìn)行了關(guān)于人機(jī)對(duì)齊與大模型安全的尖端交流。
吳晨濤教授則就人工智能領(lǐng)域的倫理規(guī)范、人機(jī)對(duì)齊問題、大模型安全等方面與對(duì)方了進(jìn)行探討交流。
最后，季衛(wèi)東院長(zhǎng)就雙方討論交流的內(nèi)容分析了以共同承接研究課題等多種方式進(jìn)行合作的可能性，謝旻希執(zhí)行董事代表安遠(yuǎn)AI表達(dá)了合作意愿。雙方將會(huì)攜手在人工智能安全、大模型治理與法律等前沿領(lǐng)域展開合作研究。
