Anthropic 的警告：人工智能正处于变得更加聪明的风口浪尖

美国人工智能公司 Anthropic 警告称，人工智能的发展速度很快就会导致智能体在没有人类输入的情况下自行构建、训练和改进，因此建议放慢发展速度。

在周四发表的一篇博客文章中，Anthropic Institute 的负责人 Marina Favaro 和 Anthropic 联合创始人 Jack Clark 表示，智能体已经可以自己运行代码，将工作时间委托给其他智能体，并且可能即将完全接管。

“在人工智能历史的大部分时间里，人类推动了其开发周期的每一步。但在 Anthropic，我们将越来越多的人工智能开发工作委托给人工智能系统本身，这加快了我们的工作速度，”他们说。

法瓦罗和克拉克补充道：“如果考虑到足够多的计算，这一趋势表明人工智能系统能够完全自主地设计和开发自己的继任者。”

人工智能的发展速度很快，可以使智能体在无需人工输入的情况下得到改进。来源：人类

人们担心如果人工智能能够自己变得更加聪明，会发生什么。去年 12 月，OpenAI 表示正在研究如何安全地开发和部署能力日益增强的人工智能，包括能够递归自我改进的人工智能。

“我们希望这些系统在复杂的现实场景和对抗条件下始终遵循人类意图，避免灾难性行为，并保持可控、可审计并与人类价值观保持一致，”它说。

该公司还聘请了一名研究员进行递归自我完善准备，该研究员构成其安全研究团队的一部分。

法瓦罗和克拉克表示，人工智能模型的改进大约每四个月翻一番，而不是每七个月翻一番。人类的角色在每一步都在缩小，Anthropic 的 Claude 模型编写的大约 80% 的代码都合并到了 Anthropic 的代码库中。

“我们还没有做到这一点，递归的自我完善并不是不可避免的。但它可能比大多数机构准备的要早，”他们说。

“一旦人类和人工智能编写的代码质量达到同等水平，人类将完全停止编写代码，转而只进行审查。但如果他们无法像克劳德生成代码一样快地审查代码，那么人类审查将成为人工智能发展的瓶颈，”他们补充道。

法瓦罗和克拉克还表示，理想的做法是放慢开发速度，以便有更多时间来解决其“巨大”影响。

今年 4 月，出于对全球网络安全威胁的担忧，Anthropic 排除了向公众发布其人工智能模型 Claude Mythos 的可能性。

Claude Mythos 能够轻松地创建软件漏洞，导致 Anthropic 目前排除了公开发布的可能性。来源：人类

与此同时，包括来自 Anthropic 和 OpenAI 的一些技术领导人周四发表了一封公开信，敦促立法者对该技术制定更强有力的防护措施，因为担心该技术可能被用来克服历史上阻止不良行为者制造生物武器的“知识障碍”。

法瓦罗和克拉克表示：“我们相信，如果能够选择减缓或暂时停止前沿人工智能的开发，以使社会结构和协调研究跟上技术的进步，这对世界来说是件好事。”

“但如果经济放缓只是让最不谨慎的参与者在技术上迎头赶上，那么可能会让每个人都变得不那么安全。如果没有全球协调机制，企业和政府将不得不在竞争和地缘政治压力下做出有关安全的艰难决定。”

人工智能代理正变得越来越受欢迎，包括在加密货币用户中。一些加密货币高管推测，人工智能代理结算交易可以推动采用和交易量。 Circle 首席执行官 Jeremy Allaire 一月份预测，五年内将有数十亿人工智能代理代表用户运行。

加密投资公司 Keyrock 上个月报告称，人工智能代理结算支付在过去 12 个月内从概念变为现实，1.76 亿笔交易中结算了 7300 万美元。

杂志：韩国首例模因币拉扯案，中国的加密货币规则审查：亚洲快报