内布拉斯加州最高法院暂停使用人工智能撰写充满捏造引文的摘要的律师

人工智能幻觉新闻从法庭尴尬变成了职业后果，内布拉斯加州最高法院裁定奥马哈律师格雷格·莱克(Greg Lake)停职，直至另行通知，此前他在离婚上诉中提交的法庭简报包含 63 条引文中的 57 条有缺陷的引文，其中包括 20 条完全捏造的案例引用和 4 条完全捏造的案例，这些案例在任何司法管辖区都不存在。

AI 幻觉新闻在美国产生了迄今为止最严厉的专业制裁，内布拉斯加州最高法院于 4 月 15 日下令无限期停职律师格雷格·莱克 (Greg Lake)，此前几个月的诉讼程序始于 2 月份的口头辩论，法官们注意到该摘要包含他们无法与任何已发布的内布拉斯加州判例法相一致的错误。

该简报是在离婚上诉中提交的，该上诉对分割婚姻资产和子女监护权的生效日期提出了争议。在 Lake 提出的 63 条引用中，57 条包含某种形式的缺陷。法院现在称之为幻觉的有二十种：由人工智能模型生成的看似现实但完全捏造的参考，该模型合理地猜测用户的要求，并产生看起来令人信服但不存在的引用。

口头辩论时及之后发生了什么

当一名法官在二月份的听证会上询问莱克这些错误是如何发生的时，他说他当时正值结婚十周年纪念日，他的电脑在旅行时坏了，而且他上传了错误版本的简报。法官们认为这一解释无法令人信服。纪律律师调查后发现了不同的说法：莱克使用人工智能起草了案情摘要，然后向法庭否认，这违反了要求法庭坦诚的职业行为规则。

内布拉斯加州最高法院在三月份一致意见驳回了这份简报，并要求莱克接受纪律处分，明确表示：“人工智能与其他技术工具一样，可以为法律界带来好处，但必须谨慎和谦逊地使用它。”法院称这些错误很容易通过标准法律研究平台的基本验证来避免，并发现莱克未能履行其坦诚义务。

更广泛的制裁格局

内布拉斯加州并不是一个孤立的案例。巴黎高等商学院 (HEC Paris) 研究员达米安·夏洛廷 (Damien Charlotin) 维护着法律诉讼中人工智能幻觉案件的数据库，目前在全球追踪 1,200 多起此类案件，其中约 800 起来自美国法院。他将这一速度描述为“一天内处理来自十个不同法院的十个案件”。

俄勒冈州因与人工智能相关的申请错误而对单一律师施加的最高总制裁额为 109,700 美元。第六巡回法院对两名田纳西州律师处以 30,000 美元的罚款，这是迄今为止与捏造传票相关的最大联邦上诉制裁。如果上诉得到维持，内布拉斯加州的无限期停职将是美国第一个因人工智能相关申报错误而完全暂停执业的律师纪律行动，从而将后果从经济处罚升级为职业停职。

为什么这对人工智能领域很重要

每一项与人工智能模型相关的备受瞩目的法律制裁都会发出一个监管信号，调整人工智能工具在专业环境中的使用方式。对于整个投资和技术领域的人工智能风险评估，法律界对幻觉的反应就像煤矿里的金丝雀：它定义了在第一个高风险监管环境中“负责任的部署”意味着什么，以产生后果。人工智能代币和人工智能基础设施市场将面临类似的监管框架，因为相同的逻辑扩展到相同底层模型的财务建议、医疗决策和政府应用。