【作者】邱遙堃
【內(nèi)容提要】
文生視頻大模型Sora將如何影響智慧法院建設(shè)升級迭代
邱遙堃 上海交通大學(xué)凱原法學(xué)院、中國法與社會研究院副教授
文生視頻大模型對智慧法院建設(shè)而言，機遇與風(fēng)險并存。一方面，它既可以在實質(zhì)上生動還原案件的裁判事實，并維持客觀真實與法律真實之間的平衡，又可以在形式上推動線上庭審的元宇宙化轉(zhuǎn)型，并將裁判文書轉(zhuǎn)譯為裁判視頻，進一步提升司法的可視化與智能化水平。另一方面，它可能加劇技術(shù)依賴、黑箱與損害公平的老問題，導(dǎo)致逃避司法責(zé)任、阻礙司法公開、忽視司法公平的負面效果，折損司法效率提升的正面收益。因此，應(yīng)當(dāng)在積極學(xué)習(xí)與應(yīng)用文生視頻大模型的同時防范潛在風(fēng)險，堅決守住法官的主導(dǎo)地位，要求文生視頻大模型具有適度的可解釋性，并加強審查人工智能裁判結(jié)果。
引言
文生視頻大模型Sora的橫空出世令人再次驚嘆人工智能的發(fā)展速度與創(chuàng)造潛力。它能根據(jù)用戶提供的文本、圖像或視頻，生成長達60秒、多鏡頭、包含復(fù)雜場景與角色的視頻，并在此過程中理解人類語言與物理世界邏輯，不禁使人遐想虛實相生甚至以虛為實的元宇宙即在不遠的將來，通用人工智能或許也不再天方夜譚。
對智慧法院建設(shè)而言，Sora意味著什么？它可能帶來哪些新的機遇，可能制造何種新的風(fēng)險？這是值得研究的重要問題?！蹲罡呷嗣穹ㄔ宏P(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》提出：“加快推進人工智能技術(shù)與審判執(zhí)行、訴訟服務(wù)、司法管理和服務(wù)社會治理等工作的深度融合，規(guī)范司法人工智能技術(shù)應(yīng)用，提升人工智能司法應(yīng)用實效，促進審判體系和審判能力現(xiàn)代化，為全面建設(shè)社會主義現(xiàn)代化國家、全面推進中華民族偉大復(fù)興提供有力司法服務(wù)。”因此，文生視頻大模型的司法應(yīng)用是大勢所趨，研究其司法影響實有必要。
事實上，學(xué)者對人工智能于司法之正面影響及其限度、負面影響及其應(yīng)對，皆展開了廣泛探討，認為其可能改變、甚至重塑司法制度，但存在過度依賴技術(shù)之隱憂；對最新的生成式人工智能于司法中的應(yīng)用前景、風(fēng)險與規(guī)制亦積極予以跟進，考察其生成示意證據(jù)、法律文書的能力對司法審判有何影響。如何最大限度地運用人工智能促進智慧法院建設(shè)，同時盡可能避免其潛在風(fēng)險，是這一領(lǐng)域研究的核心問題。文生視頻大模型作為生成式人工智能的進一步發(fā)展，自然亦可接續(xù)這一研究脈絡(luò)。
本文擬對智慧法院建設(shè)中文生視頻大模型的應(yīng)用前景、潛在風(fēng)險及其防范問題展開研討，以期利用數(shù)字新技術(shù)實現(xiàn)智慧法院建設(shè)的持續(xù)升級。
智慧法院建設(shè)中文生視頻大模型的應(yīng)用前景
當(dāng)前智慧法院建設(shè)已利用人工智能的生成、匹配與審查功能實現(xiàn)了法律文書輔助生成、類案檢索與推送、智能化審查管理等多種應(yīng)用；文生視頻大模型可進一步提升司法的可視化與智能化水平，從而提高司法效率、保障司法公正、強化司法公開，具體而言，包括以下內(nèi)容。
（一）生動還原案件的裁判事實
首先，文生視頻大模型強大的視頻生成能力可以根據(jù)既有的案件文字、圖像與視頻證據(jù)，生成生動還原案件裁判事實的視頻，成為示意證據(jù)，輔助法官查明真相。所謂示意證據(jù)（Demonstrative Evidence），是為解說原證據(jù)或案件情況而出示的可視材料，例如現(xiàn)場平面示意圖、現(xiàn)場方位示意圖、資金走向圖、人物關(guān)系圖、模擬動畫等。3D打印、虛擬現(xiàn)實（VR）等數(shù)字技術(shù)的新發(fā)展給示意證據(jù)制作與展示帶來了新的可能性。例如，在北京市第一中級人民法院審理的張某某故意殺人案中，控方借助“出庭示證可視化系統(tǒng)”以VR技術(shù)演示被告人持刀刺殺被害人的案發(fā)過程。北京王某、谷某某生產(chǎn)、銷售假藥抗訴案的控方意見亦贊同“制作多媒體展示的文件，舉證直觀性強、具有沖擊力”。
文生視頻大模型不僅能以嫌疑人口供、證人證言等既有的案件文字證據(jù)為基礎(chǔ)，生成更富表現(xiàn)力、更容易理解的圖片或視頻示意證據(jù)，真實還原帶有表情、動作與豐富情感的當(dāng)事人角色，以及主題精確、背景細節(jié)復(fù)雜的案發(fā)場景，并以帶有敘事性的多鏡頭畫面予以呈現(xiàn)，還能以既有的案件圖片、視頻證據(jù)為基礎(chǔ)，動畫化圖像內(nèi)容或擴展現(xiàn)有視頻，使存在缺失的原有證據(jù)被填補完整，使案件全貌得以復(fù)原。更重要的是，其視頻生成能力的強大意味著：相比于主要或全部依賴于人工的當(dāng)前實踐（3D打印、VR展示仍以示意證據(jù)的人工制作為基礎(chǔ)，僅增強展示效果），這一案件裁判事實的還原必將更為便利且生動，從而使更多案件，乃至所有案件，而非僅僅若干典型案例，能夠在查明事實的基礎(chǔ)上得以公正裁判。
其次，文生視頻大模型對人類語言與物理世界邏輯的理解，特別是作為生成式人工智能的涌現(xiàn)能力，可能使其發(fā)現(xiàn)法官所忽視的案件細節(jié)與線索，從而比單純的人類裁判更有機會接近案件的客觀真實。即使不考慮案外因素對法官激勵的可能扭曲，假定法官皆為兢兢業(yè)業(yè)想要辦好案子的善意行動者，人類智能的有限性也可能成為法官認定事實的掣肘：不僅不可能實現(xiàn)如上帝視角般的無所不知，還可能因為自身語言文字、科學(xué)知識水平有限、甚至可能因為行為科學(xué)視角下“系統(tǒng)一”固有的某些認知慣習(xí)而無法有效認定案件事實。還有必要考慮，我國龐大的法官群體內(nèi)部素質(zhì)存在差異，以及法官受到案件負擔(dān)影響而常常無法在每一個案件中充分考慮個案的全部情況，因此遺漏與疏忽在所難免。
相比之下，文生視頻大模型不僅能夠基于其語言文字理解與科學(xué)知識掌握的高水平而完整準確地還原案件證據(jù)所表現(xiàn)的案發(fā)事實，從而可能支持人類的有限理性，意外發(fā)現(xiàn)未曾設(shè)想的案件可能性，而且由于其工作效率與輸出結(jié)果一致性更高，沒有人類認知慣習(xí)，因此可能在事實認定方面達到更高的總正確率。更重要的是，作為生成式人工智能，文生視頻大模型亦具有涌現(xiàn)能力。這意味著，它可能憑借自身智能，輸出超越輸入證據(jù)數(shù)據(jù)限定的結(jié)果，從而彌補案件事實中的缺失環(huán)節(jié)，或至少給法官完整還原案件全貌提供參考，從而可能無限接近對客觀真實的全知。更不用說人工智能并不存在激勵扭曲問題，不會被腐化，不會受到案外因素的不當(dāng)影響，因而可以更堅定地從事人類對其布置的任務(wù)。
最后，文生視頻大模型對所用證據(jù)數(shù)據(jù)的嚴格限定，能夠使其避免法官想當(dāng)然的事實認定，從而比單純的人類裁判更能恪守基于證據(jù)的法律真實。人類智能的上述局限不僅可能導(dǎo)致法官認知有所不足，還可能導(dǎo)致法官認知過度：超越證據(jù)限制，“腦補”案件事實，作出錯誤裁判。人工智能一板一眼、因必有果的運行是對法官任意的最佳制約。其基本原理是學(xué)習(xí)過往無數(shù)類案而發(fā)現(xiàn)裁判規(guī)律，具體運作是結(jié)合當(dāng)前案件全部證據(jù)而得出裁判結(jié)果，因此輸入數(shù)據(jù)對其輸出結(jié)果構(gòu)成實質(zhì)制約；通過參考文生視頻大模型提供的生動示意證據(jù)，法官可以自我檢討事實認定過程是否存在任何無證據(jù)支持的臆斷，從而發(fā)現(xiàn)自身可能存在的固有認知局限。
誠然，客觀真實與法律真實之間的張力在文生視頻大模型輔助的司法裁判中仍然存在，僅僅轉(zhuǎn)變?yōu)橛楷F(xiàn)能力與數(shù)據(jù)限定之間的張力。人工智能的涌現(xiàn)不僅可能接近，也有可能偏離客觀真實，體現(xiàn)為人工智能的想當(dāng)然與“腦補”。但意外涌現(xiàn)的沖擊在文生視頻的效果增強下反而具有進一步刺激法官回溯并嚴審案件的既有證據(jù)的作用，正如看戲投入之時突然冒出的不合情理臺詞或情節(jié)會讓人瞬間穿越、跳出戲外一樣。涌現(xiàn)的“出戲”作用其實更能促使法官確保全部事實認定皆有堅實的證據(jù)支持。因此，無論其意外涌現(xiàn)生成的結(jié)果是對是錯、有無證據(jù)支持，法官皆可從中獲得必要參考，并在人工智能輸出結(jié)果與自身思考結(jié)果之間的反復(fù)穿梭中，取得客觀真實與法律真實之間的更佳平衡。
（二）繼續(xù)優(yōu)化智慧審理與裁判
一方面，文生視頻大模型可以推動線上庭審的元宇宙化轉(zhuǎn)型，使各方能以虛擬分身參與庭審，繼續(xù)提高庭審效率，同時可以避免與案件無關(guān)的場外因素對庭審造成負面影響。當(dāng)前的線上庭審已允許法官、當(dāng)事人與其他庭審參與者不必處于同一空間，只要同時接入庭審系統(tǒng)、召開視頻會議即可；在非庭審環(huán)節(jié)，各方甚至不必同時參與其中，只需根據(jù)結(jié)構(gòu)化網(wǎng)絡(luò)界面的引導(dǎo)，一步一步參與訴訟進程，不超過規(guī)定期限即可，亦即所謂“異步審理”模式。
但視頻會議式線上庭審仍然存在兩大技術(shù)問題：其一，參與各方的網(wǎng)絡(luò)狀況參差不齊，導(dǎo)致視頻會議效果不佳，線上庭審受到負面影響。更一般而言之，這涉及仍未消除的數(shù)字鴻溝問題，如果當(dāng)事人一方來自偏遠地區(qū)或收入水平較低，這一問題必將更為嚴重，影響其本就不易的維權(quán)行動。其二，視頻出鏡要求各方對自身外形與所處環(huán)境進行整飭，而這仍然會構(gòu)成訴訟成本，違背線上訴訟初衷。誠然，設(shè)置虛擬背景可以免除部分環(huán)境整飭成本，而且前述成本亦可促使各方更加認真對待庭審，增強庭審嚴肅性，但如果有其他更好的方式可以降本增效，那么此方面改善即為可取。
文生視頻大模型提供了改善庭審的更佳方式。它能夠生成虛擬庭審場景與虛擬庭審參與人，從而使視頻會議式線上庭審升級為虛擬世界式元宇宙庭審，免除各方打開視頻的負擔(dān)，既能降低流量損耗、提升接入效果、消除數(shù)字鴻溝，又能消除為視頻出鏡而生的外形與環(huán)境整飭成本，進一步增強司法的可得性。更重要的是，以虛擬分身參與元宇宙庭審，能夠有效避免肉眼可見的性別、種族、年齡、地域等歧視性因素不當(dāng)影響法官對案件的深思熟慮，使其僅僅考慮與案件有關(guān)的因素與問題，真正實現(xiàn)“蒙眼正義”，而且對受害人而言，可以降低其出庭壓力，有利于其維護權(quán)利。
另一方面，文生視頻大模型可以將裁判文書轉(zhuǎn)譯為裁判視頻，降低受眾接收信息的難度，更有利于當(dāng)事人接受判決結(jié)果，亦有利于司法判決在社會公共領(lǐng)域的廣泛傳播。當(dāng)前的裁判文書自動生成已逐漸使法官從裁判文書撰寫者向編輯者轉(zhuǎn)型，大大減輕法官負擔(dān)，使其能將更多時間精力投入實質(zhì)性司法思維與疑難案件處理，甚至使人擔(dān)憂法官是否已過度依賴人工智能、過度外包司法職責(zé)，乃至喪失對司法活動的控制。
但生成式人工智能在裁判文書寫作領(lǐng)域事實上仍有巨大發(fā)展空間。且不論當(dāng)前司法人工智能僅在以銀行提供的格式化事實為基礎(chǔ)的簡單的網(wǎng)絡(luò)金融借款糾紛文書寫作中發(fā)揮作用，以及法官由于惰性、習(xí)得性無助、不信任技術(shù)等負面心理，或法院人財物力儲備不足而遠未充分應(yīng)用現(xiàn)有司法人工智能等現(xiàn)實問題，生成式人工智能對篇幅巨大、充滿術(shù)語、邏輯復(fù)雜、表達拗口的裁判文書寫作之支持，反而可能強化當(dāng)事人與社會公眾理解進而接受裁判要旨之既存障礙。誠然，這實際上是法律職業(yè)主義所要求的思維、語言與風(fēng)格，但過度的法律職業(yè)主義亦被批評為法律職業(yè)為維護壟斷而滋生的隱形壁壘，不利于彌合法律人與普通人之間的認知鴻溝。
文生視頻大模型提供了優(yōu)化裁判文書的有力工具。它不僅可以進一步將法官編撰完成的裁判文書轉(zhuǎn)譯為裁判視頻，既包含前述對案件裁判事實的生動還原，亦包含對法律問題視文并茂的裁判說理，甚至可濃縮大篇幅文書為中短長度視頻，從而極大降低案件當(dāng)事人與社會一般大眾接收裁判信息、進而認可司法判決的難度，有利于司法社會效果的不斷提升。在其更高水平的智能輔助下，更多復(fù)雜案件的裁判文書寫作可以應(yīng)用司法人工智能，法官對司法人工智能的使用可能也越來越低耗、悅納與熟練。
綜上，文生視頻大模型應(yīng)用于智慧法院建設(shè)，既可以在實質(zhì)上生動還原案件的裁判事實，并維持客觀真實與法律真實之間的平衡，又可以在形式上推動線上庭審的元宇宙化轉(zhuǎn)型，并將裁判文書轉(zhuǎn)譯為裁判視頻，進一步提升司法的可視化與智能化水平，于是司法效率得以提高、司法公正得以保障、司法公開得以強化。
智慧法院建設(shè)中文生視頻大模型的潛在風(fēng)險
對智慧法院建設(shè)而言，文生視頻大模型不僅意味著可視化與智能化進一步增強的新機遇，其另一面則是加劇技術(shù)依賴、黑箱與損害公平的老問題，可能導(dǎo)致逃避司法責(zé)任、阻礙司法公開、忽視司法公平的負面效果，折損司法效率提升的正面收益，具體而言：
（一）技術(shù)依賴與司法責(zé)任的逃避
文生視頻大模型的更高智能與更強能力可能使法官更加依賴技術(shù)，逃避司法責(zé)任，導(dǎo)致人工智能從輔助者反而轉(zhuǎn)變?yōu)橹鲗?dǎo)者。
首先，在事實認定方面，文生視頻大模型對案件事實的生動還原可能致使法官過分相信其制作的示意證據(jù)，不再仔細審查更為重要的原始證據(jù)，甚至完全放任不管，服從人工智能的事實問題認定。但示意證據(jù)終究不是真正意義上的證據(jù)，不能成為裁判案件的事實基礎(chǔ)。甚至由于文生視頻大模型的技術(shù)水平尚待提高與涌現(xiàn)能力的不確定性，也許其無法接近客觀真實或過分注重客觀真實而忽視法律真實，但無論何者發(fā)生，皆為人工把關(guān)之缺失可能引發(fā)的嚴重問題。
其次，在案件審理方面，文生視頻大模型對線上庭審的元宇宙化改造可能令法官重書證而輕口供，忘卻對當(dāng)事人與證人陳述進行必要的直接考察，不利于法官進行自由心證。事實上，視頻會議式庭審雖然提高了司法效率，但已經(jīng)引發(fā)對法官無法判斷口頭陳述真?zhèn)?、可能有損司法公正的擔(dān)憂，因此對刑事司法的數(shù)字化改造進展一直較為緩慢。元宇宙庭審進一步抹去了參與方特點，使所有人成為純粹的證言供應(yīng)機，在消除歧視性因素考量的同時，亦消除了可能有利于法官自由心證的因素考量，而這對司法的影響仍未可知。
最后，在法律推理方面，文生視頻大模型對裁判文書的視頻轉(zhuǎn)碼可能使法官在免除撰寫責(zé)任以后，進一步免除編輯責(zé)任，不再對人工智能生成的裁判文書進行把關(guān)，服從其對法律問題的判斷。實際上，其他人員對法官文書寫作的替代已催生法官主導(dǎo)權(quán)喪失或至少法律文書寫作風(fēng)格變化之隱憂，在法官助理制度較為發(fā)達的國家已經(jīng)發(fā)生。文生視頻大模型的更高智能與更多模態(tài)轉(zhuǎn)化可能導(dǎo)致法官對其更加依賴，特別是考慮到其案件負擔(dān)，至少在大量簡單案件中的更多人工智能應(yīng)用是不難想見的。
既然事實問題與法律問題皆決于文生視頻大模型，而且其結(jié)果亦不經(jīng)過任何人工審查，那么一旦出錯，責(zé)任亦不在任何具體的司法審判人員，而這顯然違背應(yīng)用文生視頻大模型來提高司法可視化與智能化水平的初衷。誠然，未施審查的司法工作人員具有疏忽之責(zé)，仍然可以繩之以法，但事后追責(zé)無法挽回既成損失，冤假錯案對司法公信力的損害木已成舟。
更重要的是，司法責(zé)任的逃避與人工智能的主導(dǎo)事實上意味著，文生視頻大模型技術(shù)的提供者將可能對司法產(chǎn)生不當(dāng)影響。不論是文生視頻大模型還是其他人工智能，它們都遠非獨立自主進行思考的“機器人”，而在很大程度上取決于技術(shù)提供者的設(shè)定。法官如果放棄對人工智能輸出結(jié)果進行審查，就在實質(zhì)上將司法決定權(quán)讓渡給了技術(shù)提供者。而技術(shù)提供者如果具有一己私利，其對公共權(quán)力的染指將會造成何種后果亦難以預(yù)料，這將構(gòu)成巨大的國家安全與公共安全風(fēng)險。
（二）技術(shù)黑箱對司法公開的阻礙
一方面，文生視頻大模型對案件裁判事實的生動還原，使事實認定過程成為黑箱。案件證據(jù)是如何被轉(zhuǎn)換為相關(guān)視頻，既由于機器學(xué)習(xí)固有的復(fù)雜性而難以認識，也由于相關(guān)技術(shù)的知識產(chǎn)權(quán)、商業(yè)秘密保護需求而無法被披露，于是我們只能得到結(jié)果而無法了解過程，只知其然而不知其所以然。人工智能生成事實過程中的涌現(xiàn)現(xiàn)象進一步加劇了技術(shù)認知困難：如果技術(shù)黑箱僅僅根據(jù)某種規(guī)律將輸入數(shù)據(jù)轉(zhuǎn)變?yōu)檩敵鼋Y(jié)果，那么即使不了解黑箱內(nèi)部技術(shù)細節(jié)，根據(jù)輸入與輸出亦有可能總結(jié)其運行規(guī)律，從而使一定程度上的技術(shù)認知成為可能。但涌現(xiàn)現(xiàn)象的存在，意味著假定的嚴格因果關(guān)系被打破，即使存在某些先在規(guī)律，人工智能亦有可能“突發(fā)奇想”地打破規(guī)律，從而使對技術(shù)黑箱的認識變得更不可能。
雖然法官對事實問題的自由心證在很大程度上也是一個黑箱，因為事實上我們對人腦的科學(xué)了解不如我們想象得那樣多，神經(jīng)科學(xué)、腦科學(xué)等研究進展仍然存在許多不足，但我們不僅通過一系列制度設(shè)計而最小化了人類決策錯誤的風(fēng)險，而且我們即使不能對大腦運行的過程建立科學(xué)認知意義上的理解，也基本了解一般人類思維過程，能夠產(chǎn)生感性常識意義上的理解，從而可以相信同類的判斷。此即技術(shù)上高度復(fù)雜的機器智能所不能被認識并信任的根本原因所在，畢竟技術(shù)與人類終究有別。
另一方面，文生視頻大模型對智慧審理與裁判的繼續(xù)優(yōu)化，使司法審判過程亦成為技術(shù)黑箱。在元宇宙庭審中為什么展示某些信息、屏蔽另一些信息。換言之，什么才是庭審需要考慮的相關(guān)信息，實際上存在巨大的商榷空間。但我們在技術(shù)的支配下選擇性看到某些東西、不看某些東西，往往欠缺必要的嚴格審查與反思，最終這一庭審環(huán)境設(shè)置將對法官認知造成潛移默化又深刻重大的影響。在視頻化裁判中如何將說理從一維升為三維、如何縮寫梗概，亦對大眾構(gòu)成很高認識門檻，而在升維與壓縮過程中保留了什么、隱去了什么，也會對沒有時間或能力去閱讀判決原文的任何人都形塑其司法認知。因此，文生視頻大模型通過可視化增強而提高的司法公開水平被技術(shù)本身的復(fù)雜性所削減。
文生視頻大模型是生成式人工智能的進一步發(fā)展，因此其參數(shù)規(guī)模將指數(shù)級增大，技術(shù)復(fù)雜性亦加倍增長，技術(shù)黑箱對司法公開的阻礙更為加劇。GPT-1的參數(shù)量為1. 17億，GPT-2的參數(shù)量為15億，GPT-3的參數(shù)量為驚人的1750億，而GPT-4的參數(shù)量雖未披露，但多項預(yù)測顯示將達100萬億，文生視頻大模型的參數(shù)數(shù)量只會無以復(fù)加地增加，遠高于現(xiàn)有技術(shù)水平。因此，應(yīng)用文生視頻大模型的司法過程，將由于嚴重的技術(shù)黑箱問題而面臨司法公開受到阻礙的指責(zé)。
（三）技術(shù)效率對司法公平的忽視
一方面，文生視頻大模型的訓(xùn)練原理仍然是基于大數(shù)據(jù)并結(jié)合人類反饋的機器學(xué)習(xí)，其司法應(yīng)用可能忽視個案特點。文生視頻大模型從屬于生成式人工智能，亦采用類似完形填空的自監(jiān)督學(xué)習(xí)進行訓(xùn)練。模型算法自己準備用來訓(xùn)練參數(shù)的數(shù)據(jù)，并根據(jù)所填單詞與被移除單詞的一致與否來不斷調(diào)整參數(shù)，直至模型完美完成填空任務(wù)。在此過程中，人類可以通過提供提示樣例或內(nèi)容反饋的方式指導(dǎo)、完善模型。其相比于此前生成式人工智能的更進一步在于：為實現(xiàn)生成內(nèi)容的不同模態(tài)轉(zhuǎn)化，預(yù)先將文本單詞與視覺子塊映射到同構(gòu)性低維空間，并在此空間運用前述學(xué)習(xí)訓(xùn)練方法，發(fā)現(xiàn)文本單詞、空間子塊與時間子塊之間的關(guān)聯(lián)關(guān)系。因此，其訓(xùn)練原理類似于總結(jié)類案經(jīng)驗、進而應(yīng)用于新的個案，因此分享類案裁判的同樣問題是，如果個案存在新的特殊情況，基于既往經(jīng)驗的大模型能否加以考慮，仍未可知。涌現(xiàn)能力由于其不確定性，也無法保證在個案中得出準確的事實結(jié)論。
另一方面，文生視頻大模型的強大智能可能主導(dǎo)法官思維，得出未經(jīng)審查的錯誤結(jié)果。上文已述，技術(shù)能力越強大，法官對其依賴與對自身責(zé)任的逃避的可能性越大，以至于任由文生視頻大模型決定庭審證據(jù)呈現(xiàn)、裁判事實認定、法律推理結(jié)論。于是，即使從內(nèi)部視角觀之，其類案規(guī)律總結(jié)與個案具體應(yīng)用并無問題，也可能產(chǎn)生從外部視角觀之的事實或法律錯誤，特別是當(dāng)法律規(guī)定跟不上社會現(xiàn)實發(fā)展、與人們心中公平正義觀念相違背的時候，正如帶有社會性或經(jīng)濟性歧視因素的數(shù)據(jù)訓(xùn)練得到的算法只會繼續(xù)輸出歧視結(jié)果、強化歧視效應(yīng)。但由于法官的技術(shù)依賴與責(zé)任逃避，這一錯誤的技術(shù)輸出結(jié)果將無人審查，最終實質(zhì)性影響當(dāng)事人的權(quán)利義務(wù)與社會的穩(wěn)定秩序，甚至使技術(shù)提供者之私利所欲的法律秩序與社會秩序成為現(xiàn)實。并且由于技術(shù)的高效性，這一負面影響的范圍將與正面效應(yīng)一樣非常廣泛，造成海量案件的錯判。
由于文生視頻大模型的發(fā)展水平有限，特別是在疑難案件中的處理水平始終受到懷疑，因此放任其主導(dǎo)審判，盲目提升司法效率，必然帶來司法公平受到忽視的負面后果。從短期來看，文生視頻大模型的生成能力遠不穩(wěn)定，仍然可能產(chǎn)生違背現(xiàn)實世界邏輯的許多結(jié)果；從長期來看，文生視頻大模型的內(nèi)容生成也許仍然與其他技術(shù)一樣，適合于規(guī)則明確、非黑即白的任務(wù)指令，于是在標準模糊、法律空白的疑難案件中是否能夠發(fā)揮作用，令人懷疑。因此，應(yīng)用文生視頻大模型的司法過程，將由于過分重視效率而受到輕視公平的指責(zé)。
文生視頻大模型Sora將如何影響智慧法院建設(shè)升級迭代
既然文生視頻大模型對智慧法院建設(shè)而言，機遇與風(fēng)險并存，那么想方設(shè)法防范風(fēng)險，從而積極推動大模型的司法應(yīng)用，即是必由之路。就此而言，應(yīng)當(dāng)守住法官主導(dǎo)地位，適度解釋文生視頻大模型，加強審查人工智能裁判結(jié)果。但在進一步具體論述之前，仍應(yīng)強調(diào)：當(dāng)前司法人工智能的發(fā)展與應(yīng)用水平事實上較為低下，僅能生成以銀行提供的格式化事實為基礎(chǔ)的簡單的網(wǎng)絡(luò)金融借款糾紛文書，并且由于許多法官（尤其是年齡較大者）的惰性、習(xí)得性無助、不信任技術(shù)等主觀局限性、以及不少法院（尤其是偏遠地區(qū)的）之人財物力儲備不足的客觀局限性，即使是低水平的司法人工智能，也存在著巨大的推廣應(yīng)用空間。因此，雖然審慎與防范非常重要，但學(xué)習(xí)與應(yīng)用之重要性亦不遑多讓。
（一）法官主導(dǎo)，人工智能輔助
對技術(shù)依賴問題，一方面，應(yīng)當(dāng)重申文生視頻大模型在司法審判過程中的輔助地位，強調(diào)由法官主導(dǎo)審判并對結(jié)果負責(zé)。無論文生視頻大模型的智能水平如何提高，都不能取代法官在事實認定與法律推理中的主導(dǎo)作用，其輸出結(jié)果只能作為審判或?qū)徟斜O(jiān)督管理的參考。在事實認定方面，法官應(yīng)當(dāng)僅以文生視頻大模型生成的示意證據(jù)作為理解原始證據(jù)的輔助，并根據(jù)原始證據(jù)仔細審查示意證據(jù)，避免對客觀真實追求過度或不足，從而準確認定案件裁判事實。在案件庭審方面，法官應(yīng)當(dāng)書證與口供并重，并在必要時要求當(dāng)事人或證人打開視頻進行陳述，對其發(fā)言進行直接考察，從而形成自由心證。在法律推理方面，法官應(yīng)當(dāng)堅守對人工智能裁判結(jié)果進行編輯的責(zé)任底線，不能放任其升維與壓縮，對當(dāng)事人與社會公眾產(chǎn)生重大負面影響。主導(dǎo)審判自然意味著承擔(dān)責(zé)任，而不能認為責(zé)任在人工智能或僅僅承擔(dān)疏忽之責(zé)，正如禁止他人過問插手案件的另一面亦為司法責(zé)任制一樣，讓審理者裁判、由裁判者負責(zé)的基本要求在司法人工智能中仍然牢不可破。因此，應(yīng)當(dāng)確保司法裁判始終由審判人員作出，裁判職權(quán)始終由審判組織行使，司法責(zé)任最終由裁判者承擔(dān)。
另一方面，應(yīng)當(dāng)對所用文生視頻大模型進行嚴格審查，提高技術(shù)安全與數(shù)據(jù)安全水平，避免技術(shù)提供者對司法產(chǎn)生不當(dāng)影響。文生視頻大模型的提供者應(yīng)當(dāng)經(jīng)過仔細篩選，不論其為法院內(nèi)部技術(shù)工作人員，還是法院外部技術(shù)供應(yīng)商，皆應(yīng)當(dāng)具備高水平技術(shù)能力。其提供的大模型也需要經(jīng)過審查與備案，確保其符合安全合法、公平公正、輔助審判、透明可信、公序良俗原則，并特別注意守住安全底線，不得損害國家安全，不得侵犯合法權(quán)益，確保國家秘密、網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息不受侵害，保護個人隱私。同樣值得強調(diào)的是，所用模型不得留有后門，以免技術(shù)提供者仍然對其具有控制能力，并借此不當(dāng)影響司法裁判，同時獲取重要的信息與數(shù)據(jù)，破壞前述法官對司法的主導(dǎo)權(quán)。由于人工智能的司法應(yīng)用涉及重大的公共利益，因此可以對抗技術(shù)提供者的知識產(chǎn)權(quán)與商業(yè)秘密保護訴求，要求更高程度的信息披露與技術(shù)解釋。
（二）適度解釋，提升司法公開
對技術(shù)黑箱問題，首先，應(yīng)當(dāng)對文生視頻大模型進行適度解釋。在不損害公共利益與知識產(chǎn)權(quán)的前提下，以一般公眾可以理解的方式適當(dāng)披露文生視頻大模型的技術(shù)原理，使之明白大模型是如何基于文字生成視頻。在司法中應(yīng)用人工智能即有利于促進公共利益實現(xiàn)，因此，知識產(chǎn)權(quán)與商業(yè)秘密保護需求在此場景下應(yīng)當(dāng)適當(dāng)受到抑制，僅需考慮更廣范圍、面向公眾（而非較窄范圍、僅面向法院內(nèi)部技術(shù)安全審查者）的模型披露是否可能造成算法規(guī)避的不利后果，導(dǎo)致受司法人工智能影響者利用其對技術(shù)原理的知悉而規(guī)避技術(shù)、以合法形式掩蓋非法目的，從而謀取不正當(dāng)利益。就促進信息披露與技術(shù)解釋而言，文生視頻大模型本身亦可服務(wù)于此目的，通過精準又易懂的視頻解釋自身原理，進一步降低公眾的理解門檻。
其次，應(yīng)當(dāng)加強與應(yīng)用文生視頻大模型的案件當(dāng)事人的溝通。在具體案件中，法官可以更為直接的面對面方式對當(dāng)事人解釋文生視頻大模型是如何還原案件事實、生成庭審場景，從而使之更容易在審理程序與裁判結(jié)果中接受這一人工智能。由于信任有時并非基于更充分的信息披露，而是基于長期交易形成的穩(wěn)定預(yù)期，因此將用戶更深地納入生成式人工智能的開發(fā)、應(yīng)用與優(yōu)化的過程，在親身參與中增強用戶對算法的理解與信任，消除對技術(shù)黑箱的恐懼，即為增強技術(shù)信任的有效方案。當(dāng)事人在案件審理中的親歷性，使其完美符合人工智能參與者的必要條件，結(jié)合前一條對大模型的一般解釋，其相關(guān)行為與材料是如何導(dǎo)致相應(yīng)輸出結(jié)果，亦更容易被理解，進而達到比普通人更強、對司法意義也更重大的技術(shù)信任。
最后，如果解釋與溝通仍不足以打消當(dāng)事人與公眾對文生視頻大模型之司法應(yīng)用的懷疑，那么限定其應(yīng)用范圍乃至推遲其應(yīng)用，亦為可取的解決方案?！吨腥A人民共和國個人信息保護法》第24條第2、3款規(guī)定：“通過自動化決策方式向個人進行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式。通過自動化決策方式作出對個人權(quán)益有重大影響的決定，個人有權(quán)要求個人信息處理者予以說明，并有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定?！笔聦嵣?，不僅是使用個人信息的自動化決策，各類用戶皆有權(quán)選擇是否利用司法人工智能提供的輔助，有權(quán)隨時退出與人工智能產(chǎn)品和服務(wù)的交互。如果他們不能理解或不能信任，那么拒絕與退出就是對其權(quán)益的最佳保障。
（三）人工審查，統(tǒng)一效率公平
對損害公平問題，首先，應(yīng)當(dāng)加強對應(yīng)用文生視頻大模型之案件的人工審查，為實現(xiàn)效率與公平之統(tǒng)一，應(yīng)當(dāng)繼續(xù)繁簡分流并對疑難案件的人工智能應(yīng)用著重審查。人工主導(dǎo)與把關(guān)始終是應(yīng)用司法人工智能的黃金原則，既對應(yīng)前述法官對司法的主導(dǎo)與控制權(quán)，亦能夠確保人工智能輸出結(jié)果的正確或至少有人負責(zé)。如果司法效率的過分提高存在損害公平的可能，那么人工審查即是延緩效率、促進公平的最佳辦法。但為避免過分損害司法效率、降低人工智能應(yīng)用收益，繁簡分流則是有效解決辦法。對簡案實施寬松審查，更多信任人工智能處理結(jié)果；對繁案實施嚴格審查，更多預(yù)設(shè)對人工智能裁判的不信任。而繁簡分流的工作本身，同樣屬于利用人工智能加強輔助司法事務(wù)性工作的一部分，有利于提升司法效率。
其次，完善案件裁判偏離度預(yù)警、終本案件核查、不規(guī)范司法行為自動巡查、廉潔司法風(fēng)險防控等智能化應(yīng)用，以技術(shù)制約技術(shù)。人工智能司法應(yīng)用的重要組成部分即是加強司法的智能化管理，提升司法管理質(zhì)效，保障廉潔司法，因此以審查式人工智能制約生成式人工智能，當(dāng)然也是司法人工智能應(yīng)用的題中之義，并且有利于部分彌補人工審查對司法效率的損失。在前一條的人工審查之前，可以利用智能化司法審查管理應(yīng)用，預(yù)先發(fā)現(xiàn)可能存在的錯判誤判，或可能導(dǎo)致錯判誤判的不規(guī)范司法行為或司法腐敗，從而為人工審查指明重點、減輕負擔(dān)。甚至這一制約生成式人工智能的審查式人工智能技術(shù)還能更為先在地作用于前者的訓(xùn)練環(huán)節(jié)，使其學(xué)習(xí)過程得到更多指引與反饋，發(fā)揮人類監(jiān)督的類似作用。
最后，在前述自上而下審查以外，還要重視個案當(dāng)事人感受，聆聽其對文生視頻大模型應(yīng)用的看法，從而實現(xiàn)情理法的統(tǒng)一。不論技術(shù)審查還是人工審查，皆屬于自上而下的司法內(nèi)部自查，可能因為視角單一、過分職業(yè)主義而不識錯誤真面目，錯失發(fā)現(xiàn)問題的諸多機會，因此需要自下而上的外部視角進行補充。此即當(dāng)事人感受之反饋，能夠發(fā)揮類似用戶評論、信用制度的功能，使司法工作人員了解其運用人工智能的真實工作效果，起到補充內(nèi)部審查，促進模型改進的作用。更重要的是，既然文生視頻大模型之司法應(yīng)用的最終目標是讓人民群眾在每一個司法案件中感受到公平正義，實現(xiàn)效率與公平之統(tǒng)一，那么其應(yīng)用影響如何，自然不能缺少當(dāng)事人的評價與反饋，從而真正實現(xiàn)服判息訴。
綜上所述，我國智慧法院建設(shè)應(yīng)當(dāng)抓住文生視頻大模型提供的新機遇，提升司法的可視化與智能化水平，同時要防范舊風(fēng)險的加劇，避免技術(shù)依賴、黑箱與損害公平的老問題，在積極擁抱數(shù)字技術(shù)中，讓人民群眾在每一個司法案件中感受到公平正義。
原文刊載于《中國應(yīng)用法學(xué)》2024年第2期，感謝微信公眾號“中國應(yīng)用法學(xué)”授權(quán)轉(zhuǎn)載！