在网络威胁不断上升​​的情况下，安全问题促使 Anthropic 限制人工智能工具的使用。

Anthropic 宣布，在新模型发现操作系统、网络浏览器和其他软件中存在数千个关键漏洞后，它将仅向选定的一组公司推出其人工智能模型 Claude Mythos Preview。

Anthropic 表示，新的通用模型还在每个主要操作系统和网络浏览器中发现了高安全漏洞。

“考虑到人工智能的进步速度，这种能力很快就会激增，可能会超出致力于安全部署它们的参与者的范围。”

人工智能已经被黑客用来进行网络攻击。根据 AllAboutAI 的数据，人工智能驱动的网络攻击同比增长 72%，到 2025 年，全球 87% 的组织会遭遇人工智能驱动的网络攻击。

Anthropic 对如果不良行为者使用类似的人工智能功能会发生什么表示担忧。

为了解决这个问题，Anthropic 周二宣布了 Project Glasswing，这是一项新举措，汇集了 40 多家公司，包括亚马逊网络服务、苹果、思科、谷歌、摩根大通、Linux 基金会、微软和 Nvidia。

Project Glasswing 将使用 Claude Mythos Preview 的功能来防御性地发现错误、与合作伙伴共享数据，并在不良行为者利用这些漏洞之前修补关键漏洞，从而领先于威胁。

几十年前的错误正在被发现

零日漏洞是一种软件错误，在任何有能力修复它的人知道它存在之前就可以被利用。寻找和修补它们历来需要稀有且昂贵的人类专业知识，但人工智能可以改变检测的规模和速度。

Anthropic 表示，它发现的漏洞“通常很微妙或难以检测”。

其中许多漏洞已有 10 或 20 年的历史，迄今为止发现的最古老的漏洞是 OpenBSD 中的一个现已修补的 27 年前的漏洞，OpenBSD 是一个主要以其安全性而闻名的操作系统，它补充道。

它还发现了FFmpeg媒体处理库中存在16年历史的漏洞、开源FreeBSD操作系统中存在17年历史的远程代码执行漏洞以及Linux内核中的众多漏洞。

Mythos Preview 还发现了世界上最流行的加密库、算法和协议（包括 TLS、AES-GCM 和 SSH）中的几个弱点。

它补充说，Web 应用程序“包含无数的漏洞”，从跨站点脚本和 SQL 注入到特定于域的漏洞，例如经常用于网络钓鱼攻击的跨站点请求伪造。

零日漏洞利用的生命周期。资料来源：PhoenixNAP

Anthropic 声称其发现的 99% 的漏洞尚未得到修补，“因此我们披露有关这些漏洞的详细信息是不负责任的。”

软件将变得更加安全，但不是一夜之间

Anthropic 表示，这可能只是一种趋势的开始，“保卫世界网络基础设施的工作可能需要数年时间”，但人工智能将有助于强化软件和系统。

“从长远来看，我们预计防御能力将占据主导地位：世界将变得更加安全，软件将得到更好的强化——很大程度上是由这些模型编写的代码实现的。但过渡期将会充满挑战。”