隨著人工智能（AI）技術(shù)在法律行業(yè)的普及應(yīng)用，全球多國法院陸續(xù)發(fā)現(xiàn)，部分律師在撰寫法律文書時(shí)，依托AI大模型生成內(nèi)容，存在援引虛假判例、虛構(gòu)法官觀點(diǎn)、套用不存在的法律依據(jù)、采納錯(cuò)誤法律建議等諸多問題。此類行為不僅耗費(fèi)大量司法資源，還大幅增加了當(dāng)事人的訴訟成本。針對這一行業(yè)亂象，多國司法機(jī)關(guān)紛紛出臺舉措，嚴(yán)厲整治AI生成的錯(cuò)誤、虛假法律文書。

　　中國社會科學(xué)院法學(xué)研究所研究員、中國社會科學(xué)院大學(xué)教授支振鋒表示，這些真實(shí)判例表明，法院對律師過度依賴AI技術(shù)且未盡勤勉審查義務(wù)的行為決不姑息。

案例頻現(xiàn)

　　美國路易斯安那州一家法院近日開出罰單，對一名使用AI生成錯(cuò)誤法律文書的律師處以1000美元罰款，事由是該律師提交的文書中包含大量AI生成的不實(shí)信息。另據(jù)路透社消息，美國密西西比州一法院法官于當(dāng)?shù)貢r(shí)間6月9日，對一起案件中原、被告雙方的執(zhí)業(yè)律師作出從重處罰決定。經(jīng)查，雙方提交的法律文書中，部分涉案案例均為AI虛構(gòu)生成。法官認(rèn)定，該案4名涉事律師均存在嚴(yán)重失職問題，對其合計(jì)處以8000美元罰款，并取消其中兩名律師未來兩年在該轄區(qū)的執(zhí)業(yè)資格。

　　“這些案件的頻發(fā)，也讓‘AI幻覺’問題徹底暴露在公眾視野中。”支振鋒解釋，“AI幻覺”是指人工智能大模型生成內(nèi)容時(shí)，會自主編造出看似邏輯通順、內(nèi)容合理，但完全脫離事實(shí)、無現(xiàn)實(shí)依據(jù)的虛假信息，且模型會默認(rèn)自身生成內(nèi)容真實(shí)有效。

　　美國紐約南區(qū)聯(lián)邦法院審理的一起航空事故案件，成為生成式AI在法律領(lǐng)域引發(fā)“AI幻覺”危機(jī)的標(biāo)志性案件。2023年的“ChatGPT法律幻覺第一案”中，原告律師為反駁案件撤案動議，借助ChatGPT開展法律檢索工作，最終向法院提交了至少6起案由、卷宗編號均為憑空捏造的航空業(yè)相關(guān)判例。主審法官認(rèn)定涉事律師存在主觀過錯(cuò)，對其處以5000美元罰款。此后，美國多地陸續(xù)出現(xiàn)律師因?yàn)E用AI、未盡職核查文書內(nèi)容被處罰的案件。

　　“我近期和多名律師交流了解到，不少律師在接待客戶咨詢時(shí)，會借助AI大模型解答法律問題，而大模型時(shí)常出現(xiàn)看似嚴(yán)謹(jǐn)專業(yè)、實(shí)則偏離事實(shí)、虛假杜撰內(nèi)容的情況。”支振鋒坦言，即便是行業(yè)內(nèi)的大型律所，也難以規(guī)避這一風(fēng)險(xiǎn)。2025年2月，美國知名傷亡理賠律所Morgan & Morgan在代理一起沃爾瑪懸浮板起火案件時(shí)，兩名執(zhí)業(yè)律師依托律所內(nèi)部AI平臺撰寫法庭文件，援引了8個(gè)根本不存在的司法判例。法院最終對直接起草文書的律師處以3000美元罰款，并取消其該案執(zhí)業(yè)資格，同時(shí)對兩名未盡勤勉審核義務(wù)的核簽律師各處以1000美元罰款。

隱患凸顯

　　業(yè)內(nèi)人士普遍認(rèn)為，在“AI幻覺”問題短期內(nèi)無法根治的背景下，其衍生的風(fēng)險(xiǎn)隱患已從網(wǎng)絡(luò)信息領(lǐng)域滲透至現(xiàn)實(shí)社會各個(gè)層面。世界經(jīng)濟(jì)論壇發(fā)布的《2025年全球風(fēng)險(xiǎn)報(bào)告》，已將“錯(cuò)誤和虛假信息”列為全球五大核心風(fēng)險(xiǎn)之一，而AI生成的幻覺內(nèi)容正是該風(fēng)險(xiǎn)的主要誘因。

　　在支振鋒看來，“AI幻覺”最直接的危害是引發(fā)大規(guī)模“信息污染”，特別是在司法領(lǐng)域，虛假信息會直接沖擊司法裁判權(quán)威、擾亂責(zé)任認(rèn)定體系。首先，“AI幻覺”催生的虛假判例、不實(shí)法條引用，會導(dǎo)致案件事實(shí)認(rèn)定偏差、法律適用錯(cuò)誤，嚴(yán)重?fù)p害司法公信力。“更值得警惕的是，AI算法具備‘黑箱’特性，決策生成邏輯難以追溯、無法清晰解釋，一旦因‘AI幻覺’引發(fā)司法失誤，會極大增加責(zé)任界定難度，久而久之將動搖公眾對司法公正的信任根基。”

　　其次，錯(cuò)誤信息會形成惡性循環(huán)，催生“幻覺閉環(huán)”風(fēng)險(xiǎn)。各類AI系統(tǒng)會持續(xù)吸納互聯(lián)網(wǎng)現(xiàn)有數(shù)據(jù)內(nèi)容，AI生成的虛假信息會被反復(fù)使用、強(qiáng)化，逐步污染全網(wǎng)信息生態(tài)。當(dāng)前，互聯(lián)網(wǎng)平臺的AI生成內(nèi)容體量已遠(yuǎn)超人類原創(chuàng)真實(shí)內(nèi)容，大量低質(zhì)量、非客觀的數(shù)據(jù)持續(xù)累積，導(dǎo)致AI模型訓(xùn)練數(shù)據(jù)的錯(cuò)誤率逐代攀升，最終造成模型認(rèn)知偏差、判斷失真。

　　除此之外，隨著AI技術(shù)深度融入實(shí)體設(shè)備領(lǐng)域，“AI幻覺”的危害已突破虛擬信息范疇，直接威脅人身安全。在自動駕駛場景中，生成式AI被廣泛應(yīng)用于實(shí)時(shí)路況分析、行車決策制定。業(yè)內(nèi)人士介紹，復(fù)雜路況下，自動駕駛AI一旦出現(xiàn)“感知幻覺”，會誤判道路環(huán)境、下達(dá)錯(cuò)誤操作指令，直接引發(fā)行車安全事故。在人形機(jī)器人領(lǐng)域，風(fēng)險(xiǎn)等級更高，機(jī)器人因“AI幻覺”產(chǎn)生的錯(cuò)誤動作，造成的人身、財(cái)產(chǎn)損失遠(yuǎn)大于文本信息錯(cuò)誤帶來的危害。

協(xié)同治理

　　據(jù)英國《衛(wèi)報(bào)》報(bào)道，全球多國已收緊對AI生成法律文書的監(jiān)管政策，強(qiáng)化行業(yè)管控。英國、澳大利亞對提交AI生成虛假文書的律師，采取罰款、行業(yè)懲戒等處罰措施;德國也曾因谷歌旗下AI大模型虛構(gòu)企業(yè)商譽(yù)信息，對谷歌公司作出行政處罰。多國司法部門均明確強(qiáng)調(diào)，法律工作者借助AI輔助執(zhí)業(yè)時(shí)，必須對AI生成的文書、檢索內(nèi)容進(jìn)行全面核驗(yàn)，切實(shí)履行人工審查責(zé)任。

　　支振鋒認(rèn)為，整治“AI幻覺”亂象，核心是明確人類主體責(zé)任，杜絕技術(shù)濫用、責(zé)任缺位問題。他以國內(nèi)兩起典型案件舉例：國內(nèi)首例“AI幻覺”侵權(quán)案中，考生親屬梁某查詢高校相關(guān)信息時(shí)，發(fā)現(xiàn)AI平臺推送的內(nèi)容存在明顯錯(cuò)誤，在其質(zhì)疑后，該AI聲稱“若內(nèi)容有誤，將賠付10萬元”，梁某遂將AI研發(fā)公司訴至法院，最終杭州某法院一審駁回其訴訟請求。另一起案件中，南京律師李小亮在百度檢索個(gè)人信息時(shí)，百度“AI智能回答”生成“李小亮被判三年有期徒刑”的不實(shí)內(nèi)容。今年3月，二審法院認(rèn)定百度構(gòu)成名譽(yù)侵權(quán)，判決其作出書面道歉。據(jù)了解，百度曾以“‘AI幻覺’具有不可預(yù)見性”提出抗辯，但未被法院采納。“這兩起案件并非‘同案不同判’，二者案情與責(zé)任界定邏輯存在本質(zhì)區(qū)別。判定AI服務(wù)提供者是否擔(dān)責(zé)，需區(qū)分具體情況，除存在主觀過錯(cuò)或技術(shù)設(shè)計(jì)缺陷的情形外，一般不應(yīng)由服務(wù)提供者承擔(dān)責(zé)任。”支振鋒解釋道。

　　針對“AI幻覺”帶來的行業(yè)與社會治理難題，支振鋒提出，可從技術(shù)革新、制度監(jiān)管等多維度構(gòu)建綜合治理體系。第一，技術(shù)創(chuàng)新是根治“AI幻覺”的核心手段，檢索增強(qiáng)生成（RAG）技術(shù)可實(shí)現(xiàn)大模型與權(quán)威知識庫的實(shí)時(shí)對接，從源頭大幅提升AI生成內(nèi)容的真實(shí)性與準(zhǔn)確性。第二，需搭建多層次、全方位的監(jiān)管治理體系，完善相關(guān)監(jiān)管規(guī)則，探索推行AI生成內(nèi)容“數(shù)字水印+風(fēng)險(xiǎn)提示”雙重標(biāo)識機(jī)制，實(shí)現(xiàn)AI內(nèi)容全程溯源、風(fēng)險(xiǎn)提前預(yù)警。第三，強(qiáng)化從業(yè)者職業(yè)素養(yǎng)與信息辨別能力，督促法律工作者摒棄技術(shù)依賴，堅(jiān)守人工審核底線。從長遠(yuǎn)來看，司法機(jī)關(guān)智能化應(yīng)用需建立更嚴(yán)格的規(guī)范體系，相關(guān)AI司法應(yīng)用需經(jīng)過嚴(yán)謹(jǐn)審查，確保應(yīng)用過程公正合規(guī)、裁判結(jié)果公平公正，切實(shí)維護(hù)司法公信力。