3月下旬的一次庭審中，身為法官的高銘(化名)收到案件當事人提交的一份特殊訴狀。初看之下，這份訴狀的內容寫得頭頭是道。後經核查，高銘高度確信該訴狀是由ai生成，“特別能體現ai幻覺的特徵”。高銘表示，當律師提交了ai生成的有差錯訴狀，法官可以向律協發送司法建議函；但如果是案件當事人犯下此類錯誤，除了無奈一笑外別無他法。
ai幻覺
提及的白皮書均屬虛構 案件序號都寫錯
這是長三角地區某法院在審的一起著作權侵權案件。高銘介紹，當事人出示的訴狀表面上條理非常清晰且規範，將事實理由拆分成多個部分依次闡釋。每部分內容里，先是列明法條規則，再擺上諸多司法案例，並穿插大量行業白皮書。
“哪怕是專業律師代理，也很少能把證據說得這麼全面。”高銘提到，訴狀中羅列了七八個案例，涵蓋最高法、高院、基層法院等不同層級法院的判決書。
但在對援引的法條、案例和白皮書逐一核對之後，高銘發現，除了幾項著作權法的法條確實存在外，其餘提及的規定、案例和白皮書均屬虛構。
法院的判決書編號由法院代碼、案件序號等元素組成。上述案件訴狀中給出的案例文書，其法院代碼準確無誤，但案件序號卻全是諸如“12345”這樣的連續數字。
案件當事人並未承認使用了ai來生成訴狀，高銘分析背後有兩種可能性:一種是當事人謊稱有律師撰寫，實則自己用ai生成；另一種則是當事人尋求過在線法律諮詢服務，諮詢平台不負責任地反饋了一份ai生成的文書。
“人一般不會這麼理直氣壯地編造出頭頭是道的內容。”高銘表示，把假的當作真實的加以引用，高度符合ai幻覺的特徵。
律師引用ai生成虛構案例 兩年間美國發生七起
域外法院同樣遇到過ai生成錯誤訴狀的情形。據路透社2月中旬報道，美國知名人身傷害領域律師事務所morgan & morgan向其1000多名律師發送了一封緊急郵件，警告ai可能編造虛假的判例法，若律師在法庭文件中使用這些虛構內容，可能會被解僱。
這份警告郵件事出有因——該律所兩名律師在一起針對沃爾瑪的訴訟中，引用了ai生成的虛構案例。而在過去兩年間，此類事件在美國至少發生了七起。
發展趨勢
有平台開通ai寫文書模塊，用戶輸入信息生成法律文書
“有的律師可能會誤以為，ai現在已經很強大，輸出後就不用審核了，這顯然是不正確的。”常成是法律ai公司華宇元典旗下“元典問達”產品的運營負責人，據其介紹，為避免用戶過分信賴ai生成結果，“元典問達”會在頁面上提醒用戶，ai生成的內容僅供參考。
當前的法律ai工具市場上，除了通用型ai聊天產品可被用於法律諮詢，像華宇元典這樣的公司也在推進生成式ai在法律垂直領域的應用。“元典問達”平台開通ai寫文書模塊，可以根據用戶輸入的信息，生成民事起訴狀、律師函、法律諮詢意見書等多種類型的法律文書。
根據南都記者的實際體驗，若要生成一份涉及民間借貸案由的民事起訴狀，用戶首先需要在“元典問達”平台輸入案件情況概要。隨後，系統會自動分析並提取案件的關鍵要素，包括原告與被告的身份信息以及具體的訴訟請求等內容。在用戶確認這些初步信息後，ai將自動生成一份格式規範的訴狀，把案情擴充講述得更詳細，同時援引了涉及民間借貸案件的法律法規作為支撐。如果不滿意，用戶可在此基礎上進一步修改再提交重新生成。
當事人利用ai參與訴訟過程難以避免
法律ai產品不僅面向專業律師，更覆蓋有法律服務需求的普通民眾。深圳市律協2023年7月下發的一份文件顯示，2022年全國法院受理各類案件3372萬多件，律師代理的訴訟案件數量只有824萬多件，佔比僅約為24.4%。常成說，基於這樣的司法現狀，即便ai存在出錯的可能性，但對於未聘請專業律師的當事人而言，他們依然會利用ai工具參與到訴訟過程中，這一趨勢難以避免。利用ai工具撰寫訴狀，可能很多情況下要好於當事人自行撰寫的質量。
但常成提醒，法律ai產品仍然只能作為輔助提效的工具，使用者自己要擔負起責任，自己要檢查和最終審核ai生成的文本。
規範糾錯
法律ai公司精調訓練，限制底層基座大模型隨意發揮
一些法律ai公司通過精調訓練的手段，限制底層基座大模型的隨意發揮。
武漢百智誠遠科技有限公司(下稱“百智誠遠”)推出了一款“起訴狀輔助生成系統”，目前主要面向g端(政務端)市場。該公司產品總監孫莉莉介紹，由於通用大模型難以直接落地到具體行業場景，公域部署的訴狀生成系統在deepseek和阿里的通義法睿等大模型基座模型的基礎上，必須再灌注一些法律行業專用數據展開進一步的精調。百智誠遠正在和一些g端客戶合作開展訴狀生成系統的內測，用戶與ai交互後，ai便可生成符合規範格式的訴狀草稿。
孫莉莉表示，在處理如法條引用和案件金額計算等高度專業化的任務時，這種疊加式的訓練方法顯得尤為重要。例如，在勞動爭議案件中，精調後的法律ai模型能夠根據當事人所在地的工資標準，自動計算出相應的賠償額度。如果交由通用大模型執行相同任務，幻覺問題可能比較嚴重。
不過，受限於訓練數據量的豐富度，不同難易程度案件的訴狀生成效果有差異。孫莉莉以知識產權案件舉例說，對於外觀設計專利侵權的案件，ai生成的結果質量較高；而對於其他更複雜的知產侵權案件類型，ai撰寫的訴狀可能只有部分可用，無法達到專業律師的成文水平。
律師提交ai生成差錯訴狀，法官可向律協發送司法建議函
面對ai逐步滲入訴訟場景，如何規範其正確使用，已然成為不同司法轄區面臨的共同課題。
為此，2024年7月，美國律師協會發布的第一份關於律師使用生成式ai的正式意見指出，使用ai可能導致律師引用不存在的案例或不準確的分析，該意見警告律師應審查所有輸出內容的準確性。
同年9月，新加坡最高法院、家事法庭、州法院同時發布一份《生成式人工智能工具使用指南》，要求包括案件當事人、代理律師在內的案件相關人員在使用ai時，必須確保生成內容的準確性與真實性、沒有創造虛假案例，更不應用此途徑來生成或編造證據。若發現有不當使用情況，法庭可以對相關使用者進行懲戒。
目前，中國尚無類似的專門指引。高銘表示，當律師提交了ai生成的有差錯訴狀，法官可以向律協發送司法建議函；但如果是案件當事人犯下此類錯誤，除了無奈一笑外別無他法。
采寫:南都記者 楊柳
製圖:黃亞嵐(騰訊元寶ai)
