Anthropic 即将推出 Advanced Mythos 系统，跨大西洋合作寻求降低人工智能风险

欧盟计划扩大与美国政府就具有网络功能的先进人工智能模型的谈判。讨论集中在强大系统（例如 Anthropic 的 Mythos 模型）的访问、安全审查和规则上。此次会谈正值 Anthropic 准备在未来几周内向客户推出 Mythos 级模型之际。据 CNBC 报道，欧盟委员会一名官员表示，欧盟希望与美国官员就前沿人工智能模型进行更深入的讨论。会谈涵盖了可以支持复杂网络任务和安全测试的系统。欧盟尚未获得 Anthropic 的 Mythos 模型的预览访问权。其人工智能办公室也尚未审查当前准入流程下的模型。 Anthropic 通过 Project Glasswing 为选定的公司和组织提供了早期预览访问权限。然而，除英国人工智能安全研究所外，美国以外的政府访问仍然有限。一位知情人士表示，Anthropic 要求欧盟官员寻求美国的许可。该人士表示，白宫并不单独反对欧盟。该人士表示，美国官员对与非美国政府分享神话有更广泛的担忧。现在，会谈将模型访问置于更广泛的跨大西洋人工智能安全讨论中。白宫与人工智能实验室合作进行高级模型部署。美国官员希望在管理安全风险的同时保持国家领先地位。财政部长斯科特·贝森特表示，政府与人工智能实验室“非常密切”合作。他还表示，官员们希望平衡创新和安全。根据之前的报道，政府反对扩大 Mythos 的访问范围。 Anthropic 提议让大约 70 家以上的公司和组织访问该模型。 Anthropic 在四月份宣布 Mythos 后，引起了人们的关注。该模型因其大规模识别软件漏洞的能力而引起了关注。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 本月警告说，安全窗口很窄。他表示，在中国人工智能赶上之前，组织有 6 到 12 个月的时间来修补许多漏洞。 Anthropic 周四表示，具有神话级功能的模型在广泛发布之前需要强大的网络保障措施。该公司还表示，在这些保护措施方面已取得快速进展。 “我们在制定这些保障措施方面正在迅速取得进展，”安思罗皮克说。该公司预计在未来几周内向所有客户推出 Mythos 级模型。欧盟委员会还扩大了与 Anthropic 和其他模型开发商的技术谈判。这些谈判涉及向欧盟人工智能办公室通报其最新模型的公司。委员会发言人托马斯·雷尼尔表示，网络安全仍然是共同的优先事项。他说，欧盟和美国同意承认各自在这一领域的标准。现在的讨论涵盖模型访问、网络保护和审查程序。与此同时，政府正在研究先进的人工智能系统如何处理安全敏感功能。 Anthropic 的下一次推出将测试实验室如何管理对强大模型的访问。欧盟继续与 Anthropic 进行技术讨论，同时寻求与美国官员进行更密切的会谈。