以chatgpt、谷歌bard为首的多个生成式ai应用正在辐射到千行百业——就在2023年12月29日（上周五），美国前总统特朗普的前经纪人兼律师科恩（michael cohen）被曝使用ai创造虚假案件，以为特朗普的逃税和竞选财务违规指控进行辩护。
2018年时，特朗普就被判违反联邦选举法，连同偷税漏税、向国会作伪证等罪名被判三年监禁。而在2023年12月2日，他因涉嫌财务欺诈的案件再次出庭接受审判，而其当时的辩护团队在提交的文件引用三起案件，试图将其作为佐证来缩短特朗普的刑期。
但根据29日纽约南区联邦地区法院公布的文件，当地法官称，他们无法找到其辩词中引用的三起案件中的任何一个。最终，科恩承认，他使用了谷歌的ai聊天机器人bard生成相关案件引文。
bard是谷歌在2023年3月推出的一款ai聊天机器人，其背后的大模型拥有1370亿参数，推出之时就被认为是谷歌面对openai（及其背后的微软）推出的“最强竞品”，其以实时、流畅的个性化对话服务而闻名。
而在文件的称述中，科恩表示自己“没有跟上法律技术的新兴趋势（和相关风险）”，错以为谷歌bard是一种“超级搜索引擎”，而非是类似chatgpt的文本生成服务，可以生成看似真实但实际上并非如此的引文和描述。
科恩还提到，自己在使用bard生成案例后，将其交给了律师团队中的施瓦茨（david m. schwartz），而施瓦茨或他的律师助理“从未对他建议的引文提出任何担忧”，在并没有确认那些案例真正存在的情况下，就代表他向联邦法官提交相关文件——这仍然让他感到十分惊讶。
美媒华盛顿邮报在29日报道时称，科恩引用ai生成虚假案例一事，预计将会对特朗普案件造成重要影响。
事实上，在此之前，美国也已有两起使用生成式ai工具生成虚假案例的事件——2023年5月底，纽约一位从业超过30年的资深律师使用chatgpt撰写相关资料，生成了6起虚假案例，最终，该律师以及背后的律师事务所共遭受5000美元的罚款；2023年6月，一位记者在撰写报道时采用chatgpt帮忙总结信息，却错将无须有的罪名安在了一位电台主持人身上，受害者已向chatgpt及开发公司openai提起诉讼。
在技术层面，这种ai“一本正经地胡说八道”或“说谎”的现象被称为“ai幻觉”，指模型所具有的一种输出欺骗性数据或没有任何已知事实内容的倾向，很多是由于训练数据错误或不足，以及模型本身的偏见，当前仍未能找到完美的解决方法。
而肉眼可见的是，随着新一代技术工具的逐渐成熟，ai在法律案件工作中将变得越来越普遍，也一定会产生各种各样的问题，究竟如何解决，仍值得进一步讨论。
采写：南都记者 杨博雯
