特朗普前律師被曝用AI瞎編判例,自稱因“沒跟上技術趨勢”

2024年01月03日15:30:48 國際 5022

以chatgpt、谷歌bard為首的多個生成式ai應用正在輻射到千行百業——就在2023年12月29日(上周五),美國前總統特朗普的前經紀人兼律師科恩(michael cohen)被曝使用ai創造虛假案件,以為特朗普的逃稅和競選財務違規指控進行辯護。

2018年時,特朗普就被判違反聯邦選舉法,連同偷稅漏稅、向國會作偽證等罪名被判三年監禁。而在2023年12月2日,他因涉嫌財務欺詐的案件再次出庭接受審判,而其當時的辯護團隊在提交的文件引用三起案件,試圖將其作為佐證來縮短特朗普的刑期。

但根據29日紐約南區聯邦地區法院公布的文件,當地法官稱,他們無法找到其辯詞中引用的三起案件中的任何一個。最終,科恩承認,他使用了谷歌的ai聊天機器人bard生成相關案件引文。

bard是谷歌在2023年3月推出的一款ai聊天機器人,其背後的大模型擁有1370億參數,推出之時就被認為是谷歌面對openai(及其背後的微軟)推出的“最強競品”,其以實時、流暢的個性化對話服務而聞名。

特朗普前律師被曝用AI瞎編判例,自稱因“沒跟上技術趨勢” - 天天要聞

而在文件的稱述中,科恩表示自己“沒有跟上法律技術的新興趨勢(和相關風險)”,錯以為谷歌bard是一種“超級搜索引擎”,而非是類似chatgpt的文本生成服務,可以生成看似真實但實際上並非如此的引文和描述。

科恩還提到,自己在使用bard生成案例後,將其交給了律師團隊中的施瓦茨(david m. schwartz),而施瓦茨或他的律師助理“從未對他建議的引文提出任何擔憂”,在並沒有確認那些案例真正存在的情況下,就代表他向聯邦法官提交相關文件——這仍然讓他感到十分驚訝。

美媒華盛頓郵報在29日報道時稱,科恩引用ai生成虛假案例一事,預計將會對特朗普案件造成重要影響。

事實上,在此之前,美國也已有兩起使用生成式ai工具生成虛假案例的事件——2023年5月底,紐約一位從業超過30年的資深律師使用chatgpt撰寫相關資料,生成了6起虛假案例,最終,該律師以及背後的律師事務所共遭受5000美元的罰款;2023年6月,一位記者在撰寫報道時採用chatgpt幫忙總結信息,卻錯將無須有的罪名安在了一位電台主持人身上,受害者已向chatgpt及開發公司openai提起訴訟。

在技術層面,這種ai“一本正經地胡說八道”或“說謊”的現象被稱為“ai幻覺”,指模型所具有的一種輸出欺騙性數據或沒有任何已知事實內容的傾向,很多是由於訓練數據錯誤或不足,以及模型本身的偏見,當前仍未能找到完美的解決方法。

而肉眼可見的是,隨着新一代技術工具的逐漸成熟,ai在法律案件工作中將變得越來越普遍,也一定會產生各種各樣的問題,究竟如何解決,仍值得進一步討論。

采寫:南都記者 楊博雯

國際分類資訊推薦

一個叫“加沙人道主義基金會”的組織,被聯合國點名 - 天天要聞

一個叫“加沙人道主義基金會”的組織,被聯合國點名

兩周前,以色列和伊朗達成脆弱停火,結束衝突。隨後以軍方面宣布以軍焦點“重回”加沙地帶。目前,加沙新一輪停火談判首日會談無果而終。7日,巴勒斯坦知情人士透露,巴勒斯坦伊斯蘭抵抗運動(哈馬斯)與以色列6日在卡塔爾首都多哈舉行的新一輪間接談判首日會談無果而終。據悉,這一結果緣於以方談判團隊“未獲得可達成協議...
美國總統特朗普宣布對韓國和日本徵收25%的關稅 - 天天要聞

美國總統特朗普宣布對韓國和日本徵收25%的關稅

當地時間7月7日,美國總統特朗普在社交媒體平台上發布了致日本首相石破茂、韓國總統李在明的信件,宣布美國將自2025年8月1日起對所有日本和韓國輸美產品徵收25%的關稅。特朗普表示,儘管美國與韓國和日本之間存在巨額貿易逆差,美國仍決定繼續與兩
第九屆中俄博覽會在俄羅斯葉卡捷琳堡開幕 - 天天要聞

第九屆中俄博覽會在俄羅斯葉卡捷琳堡開幕

第九屆中俄博覽會7日在俄羅斯斯維爾德洛夫斯克州首府葉卡捷琳堡國際展覽中心開幕。本屆博覽會以“中俄務實合作穩健前行”為主題,超過1500名俄羅斯政府和企業代表報名參加,185家公司搭建展位,300多家供應商和製造商參展。
官方首次披露,王自堂已被查 - 天天要聞

官方首次披露,王自堂已被查

編輯丨餘暉河南《濮陽日報》消息,中國共產黨濮陽市第八屆委員會第九次全體會議於7月4日舉行。全會審議並通過了濮陽市紀律檢查委員會關於婁建廣、王自堂嚴重違紀違法問題的審查報告,確認市委常委會之前作出的給予婁建廣開除黨籍、王自堂同志撤銷黨內職務的
這6省份,即將迎來執法檢查組 - 天天要聞

這6省份,即將迎來執法檢查組

撰文丨餘暉據《新聞聯播》消息,7月7日,全國人大常委會循環經濟促進法執法檢查組在京召開第一次全體會議,部署執法檢查工作。全國人大常委會副委員長王東明、丁仲禮、何維出席。當日,全國人大常委會啟動循環經濟促進法執法檢查。此次執法檢查採取赴地方檢
涉嫌嚴重違紀違法,河南一女幹部被查! - 天天要聞

涉嫌嚴重違紀違法,河南一女幹部被查!

據河南鄭州市紀委監委7月7日消息:鄭州市金水區人大常委會原主任、二級巡視員薛燕涉嫌嚴重違紀違法,目前正接受鄭州市紀委監委紀律審查和監察調查。公開信息顯示,薛燕長期任職金水區,曾擔任鄭州市金水區人大常委會主任多年,2024年2月卸任。來源:鄭州市紀委監委報料、維權通道:應用市場下載“晨視頻”客戶端,搜索“報...