以chatgpt、谷歌bard為首的多個生成式ai應用正在輻射到千行百業——就在2023年12月29日（上周五），美國前總統特朗普的前經紀人兼律師科恩（michael cohen）被曝使用ai創造虛假案件，以為特朗普的逃稅和競選財務違規指控進行辯護。
2018年時，特朗普就被判違反聯邦選舉法，連同偷稅漏稅、向國會作偽證等罪名被判三年監禁。而在2023年12月2日，他因涉嫌財務欺詐的案件再次出庭接受審判，而其當時的辯護團隊在提交的文件引用三起案件，試圖將其作為佐證來縮短特朗普的刑期。
但根據29日紐約南區聯邦地區法院公布的文件，當地法官稱，他們無法找到其辯詞中引用的三起案件中的任何一個。最終，科恩承認，他使用了谷歌的ai聊天機械人bard生成相關案件引文。
bard是谷歌在2023年3月推出的一款ai聊天機械人，其背後的大模型擁有1370億參數，推出之時就被認為是谷歌面對openai（及其背後的微軟）推出的「最強競品」，其以實時、流暢的個性化對話服務而聞名。
而在文件的稱述中，科恩表示自己「沒有跟上法律技術的新興趨勢（和相關風險）」，錯以為谷歌bard是一種「超級搜索引擎」，而非是類似chatgpt的文本生成服務，可以生成看似真實但實際上並非如此的引文和描述。
科恩還提到，自己在使用bard生成案例後，將其交給了律師團隊中的施瓦茨（david m. schwartz），而施瓦茨或他的律師助理「從未對他建議的引文提出任何擔憂」，在並沒有確認那些案例真正存在的情況下，就代表他向聯邦法官提交相關文件——這仍然讓他感到十分驚訝。
美媒華盛頓郵報在29日報道時稱，科恩引用ai生成虛假案例一事，預計將會對特朗普案件造成重要影響。
事實上，在此之前，美國也已有兩起使用生成式ai工具生成虛假案例的事件——2023年5月底，紐約一位從業超過30年的資深律師使用chatgpt撰寫相關資料，生成了6起虛假案例，最終，該律師以及背後的律師事務所共遭受5000美元的罰款；2023年6月，一位記者在撰寫報道時採用chatgpt幫忙總結信息，卻錯將無須有的罪名安在了一位電台主持人身上，受害者已向chatgpt及開發公司openai提起訴訟。
在技術層面，這種ai「一本正經地胡說八道」或「說謊」的現象被稱為「ai幻覺」，指模型所具有的一種輸出欺騙性數據或沒有任何已知事實內容的傾向，很多是由於訓練數據錯誤或不足，以及模型本身的偏見，當前仍未能找到完美的解決方法。
而肉眼可見的是，隨着新一代技術工具的逐漸成熟，ai在法律案件工作中將變得越來越普遍，也一定會產生各種各樣的問題，究竟如何解決，仍值得進一步討論。
采寫：南都記者 楊博雯
