人性化利用“基于恐惧的营销”来宣传克劳德神话：萨姆·奥尔特曼

简而言之

OpenAI 首席执行官 Sam Altman 表示，竞争对手 Anthropic 正在使用“基于恐惧的营销”来推广其 Claude Mythos 模型。

Claude Mythos 表现出了前所未有的发现软件漏洞的能力。

各国政府和研究人员都对涉及神话的防御性和进攻性风险发出了警告。

OpenAI 首席执行官 Sam Altman 反驳了人们对竞争对手 Anthropic 强大的新人工智能模型 Claude Mythos 日益增长的担忧，暗示该公司正在利用“恐惧”来营销该产品。

在科技记者 Ashlee Vance 主持的 Core Memory 播客上，Altman 表示，使用“基于恐惧的营销”是为了让人工智能掌握在“一小部分人”的手中。

奥尔特曼说：“你可以用很多不同的方式证明这一点，其中一些是真实的，就像存在合理的安全担忧一样。”

“但如果你想要的是‘我们需要控制人工智能，只有我们，因为我们是值得信赖的人’，我认为基于恐惧的营销可能是证明这一点的最有效方法。”

奥特曼补充说，虽然人们对人工智能安全存在合理的担忧，但“这显然是令人难以置信的营销方式：‘我们制造了一枚炸弹。我们即将把它扔到你头上。我们将以 1 亿美元的价格卖给你一个防空洞。你需要它来运行你所有的东西，但前提是我们选择你作为客户。’”

他指出，平衡 AI 的新功能与 OpenAI 认为该技术应该易于使用的信念“并不总是那么容易”。

Anthropic 的克劳德神话

Anthropic 上个月公布的 Claude Mythos 模型引起了研究人员、政府和网络安全行业的强烈关注，特别是在测试表明它可以自主识别软件漏洞并执行复杂的网络操作之后。该模型仅通过受限计划分发给有限的组织。

这次推出反映出人工智能行业在如何部署强大的系统方面存在更广泛的分歧，一些公司强调受控访问，而另一些公司则主张更广泛的分发以加速创新和对技术的理解。

神话已成为这场辩论的焦点。该模型的功能被 Anthropic 定义为一种防御性突破（允许更快地检测关键软件缺陷），以及如果滥用则存在潜在的进攻风险。本月初，它在测试过程中发现了 Mozilla Firefox 浏览器中的数百个漏洞，并展示了进行多阶段网络攻击模拟的能力。

Anthropic 通过 Project Glasswing 限制了对该系统的访问，允许包括亚马逊、苹果和微软在内的精选公司测试其功能。该公司还投入了大量资源来支持开源安全工作，认为防御者应该在该技术得到更广泛应用之前从该技术中受益。

安全专家警告说，Mythos 识别漏洞的相同功能也可用于大规模利用漏洞。英国人工智能安全研究所的测试发现，该模型可以自主完成复杂的网络操作。

该模型还暴露了现有人工智能评估系统的局限性，Anthropic 承认当前的许多网络安全基准已不足以衡量其最新系统的功能。

也就是说，一组研究人员上周声称他们能够使用公开模型重现 Mythos 的发现。

尽管美国政府部分部门因担心该技术在战争和监视方面的潜在应用而呼吁停止使用该技术，但据报道，美国国家安全局已开始在机密网络上测试该模型的预览版本。在 Decrypt 母公司 Dastan 旗下的预测市场 Myriad 上，用户预测 Claude Mythos 在 6 月 30 日之前向广大公众发布的可能性为 49%。

奥特曼表示，随着能力的提高，围绕高度危险的人工智能系统的言论可能会增加，但他认为，并非所有此类说法都应该从表面上看。

“将会有更多关于太危险而不能发布的模型的言论。也会有非常危险的模型必须以不同的方式发布，”他说。 “我确信 Mythos 是网络安全的一个很好的模型，但我认为我们有一个计划，我们对如何将这种能力推向世界感到满意。”

Altman 还驳斥了 OpenAI 正在缩减基础设施支出的说法，称尽管说法发生变化，该公司仍将继续扩大其计算能力。

“我不知道这是从哪里来的……人们真的想写下撤退的故事，”他说。 “但很快就会再次出现这样的情况：‘OpenAI 太鲁莽了。他们怎么能花这么疯狂的钱呢？’”