人工智能生成虚假法律引文后，沙利文和克伦威尔向法院道歉

著名律师事务所提交带有人工智能伪造引文的法庭文件沙利文和克伦威尔承认破产案件中的验证失败人工智能产生的不准确影响了联邦法院的提交反对律师在法律归档中发现捏造判例法事件强调了增强人工智能验证协议的迫切需要在一家美国精英律师事务所犯下重大错误后，法律界面临着对人工智能可靠性的重新审查。 Sullivan & Cromwell 公开承认提交了一份法庭文件，其中充满了人工智能伪造的案例引文和不准确的法律参考。该事件促使该公司对其人工智能保障措施进行全面的内部调查。这家著名的律师事务所在与太子集团诉讼相关的第 15 章破产文件中发现了重大缺陷。人工智能系统产生了虚构的案例参考，并错误地分析了美国破产法规中的条款。这些捏造的内容包含在提交给纽约联邦破产法庭的材料中。负责该公司重组部门的安德鲁·迪德里奇(Andrew Dietderich)对这份文件的缺陷承担了个人责任。他证实，虽然该公司维持既定的人工智能使用指南，但在创建此特定文档期间并未遵守这些协议。此后，该组织采取了补救措施，以避免在后续的法律提交中再次出现人工智能驱动的错误。代表对方当事人的博伊斯·席勒·弗莱克斯纳 (Boies Schiller Flexner) 发现了差异并将其提请司法注意。他们的审查发现，某些引用的案例完全不存在，或者引用了完全不相关的司法意见。因此，该公司提交了修订版本，并附有明确标识人工智能产生的错误的注释。这一事件表明，律师事务所在利用人工智能来提高生产力和管理案件量时面临着普遍的困难。许多法律实践都部署人工智能系统进行法律研究和文件创建，但验证协议不足仍然会造成漏洞。当法律专业人士将人工智能嵌入到他们的实践工作流程中时，必须解决运营效率和精确度之间的紧张关系。 Sullivan & Cromwell 表示，它执行严格的人工智能使用政策，包括对所有人工智能生成的材料进行强制人工审查。该公司承认，质量控制机制在这件事上失败了，导致有缺陷的内容不受控制地传播。该事件在关键的法律背景下加强了对人工智能治理框架的审查。行业数据显示，人工智能幻觉在司法文件中出现的频率不断上升，尤其是涉及虚构的法律先例。研究记录了全球 1,300 多起此类事件，其中大多数集中在美国法院。这种新兴模式强调在法律文档流程中部署人工智能时必须采用更严格的身份验证机制。太子集团的诉讼集中在对广泛欺诈计划的指控，包括强迫劳动行为和财务不当行为。美国检察官已启动与该组织业务相关的刑事诉讼和没收财产工作。因此，在涉及复杂跨国指控的案件中，法律文件的准确性变得至关重要。 Sullivan & Cromwell 此前曾代表客户处理重大事务，包括 FTX 交易所的破产程序。该公司收取溢价并管理跨越多个法律管辖区的复杂重组案件。这种与人工智能相关的故障引发了对主要合法企业质量控制的质疑。该公司保持持续的内部调查，同时重新评估教育计划和管理人工智能部署的合规框架。其目标包括加强保护措施并增强整个文档创建工作流程的责任。随着人工智能集成的加速，法律行业面临着越来越高的期望，以保证可靠性并消除代价高昂的错误。