人工智能暴露漏洞，为黑客创造短暂但令人震惊的攻击机会

简而言之

Anthropic 表示，其人工智能已经发现了数万个软件漏洞。

首席执行官 Dario Amodei 警告称，修复这些问题需要 6 到 12 个月的时间。

批评人士表示，即使安全问题日益严重，风险也可能被夸大了。

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 和摩根大通首席执行官杰米·戴蒙 (Jamie Dimon) 周二讨论了人工智能带来的日益严重的网络安全威胁，因为人工智能识别漏洞的速度比组织修复漏洞的速度快。

在这场与 Anthropic 进军金融服务相关的近两个小时的活动中，该公司推出了人工智能代理，用于执行宣传手册、收益审查和合规工作等任务。Amodei 表示，在类似功能得到更广泛应用之前，可能有 6 到 12 个月的时间来解决该公司 Mythos 模型发现的数万个缺陷。

阿莫迪说：“危险在于勒索软件对学校、医院（更不用说银行）造成的漏洞数量、违规数量和财务损失大幅增加。”

Amodei 的最新声明是在 Mozilla 的早期测试之后发布的，当时 Mythos 的早期版本一次性识别出 Firefox 浏览器中的 271 个漏洞，这表明人工智能如何能够比人类研究人员更快地扫描大型代码库。

Anthropic 表示，该模型可以发现广泛使用的软件中数千个以前未知的弱点。许多问题仍未公开，因为尚未修补，留下了未解决的缺陷。

阿莫迪说：“如果我们宣布某件事而没有修复它，那么坏人就会利用它。”

在受控测试中，Mythos 在没有人工干预的情况下完成了多步骤网络攻击模拟，展示了从识别弱点到利用弱点的能力。

Anthropic 将该模型仅限于 Glasswing 项目下的一小部分合作伙伴，旨在在类似工具广泛使用之前修复漏洞。

研究人员表明，Mythos 的功能元素可以使用现有模型和开源技术进行复制，这表明类似工具的传播速度可能比预期更快。

这些警告引起了业内人士的质疑。今年 4 月，OpenAI 首席执行官 Sam Altman 表示，对 Mythos 的担忧可能被夸大了，并建议 Anthropic 正在使用“基于恐惧的营销”来界定风险，并证明限制对该技术的访问是合理的。

奥尔特曼说：“你可以用很多不同的方式证明这一点，其中一些是真实的，就像存在合理的安全担忧一样。” “但如果你想要的是‘我们需要控制人工智能，只有我们，因为我们是值得信赖的人’，我认为基于恐惧的营销可能是证明这一点的最有效方法。”

据 Axios 称，尽管存在这种阻力，尽管与 Anthropic 存在公开不和，但据报道，美国政府仍在使用 Claude Mythos 扫描机密网络是否存在漏洞并测试其网络安全能力。虽然阿莫代没有提及正在进行的法律斗争，但他表示，Anthropic“对这个国家有好处”。

“我认为 Anthropic 的观点一如既往。在政治化方面，这就是我提出的关于精简、系统和对每个人公平的观点，”阿莫代说。 “制定法律而不是以临时方式做事的目的是，至少在原则上——我知道实际上更复杂——所有公司都以同样的方式对待，我们应该追求这一点，即使它永远不会完美地以这种方式发生。”

阿莫迪将这一时刻视为采取行动的一个狭窄窗口，并警告说，组织的反应速度可能决定风险是否升级或得到控制。

阿莫迪说：“这是一个危险时刻，如果我们正确应对，并且我认为我们开始迈出第一步，那么我们就能在另一边拥有一个更美好的世界。” “能找到的错误就这么多。”