专家警告即将到来的人工智能突破，呼吁制定应急计划以减轻潜在风险

人工智能开发商 Anthropic 发出了严厉警告，人工智能系统很快就会具备自主设计和训练下一代模型的能力。在周四的博客文章中，该公司强调了对递归自我改进技术的担忧。 🚨这太可怕了：ANTHROPIC 说世界应该暂停人工智能早些时候，Anthropic 首席执行官 Dario Amodei：“另一个极端立场是‘这真的很可怕，我们应该暂停......停止开发技术’”现在，Anthropic 说：“我们的人工智能在改善我们方面变得越来越擅长...... pic.twitter.com/Gn0Mf04YzX — Coin Bureau (@coinbureau) 六月2026 年 1 月 5 日，该分析来自 Anthropic 研究所的领导者和公司联合创始人 Jack Clark，根据他们的评估，人工智能能力大约每四个月翻一番，明显快于之前对每个开发周期的估计，到今年 5 月，Claude（Anthropic 的专有人工智能系统）已经编写了集成到 Anthropic Favaro 的所有代码的 80%。克拉克指出，当前的人工智能代理已经具备独立执行代码并将多个小时的任务分配给其他自动化系统的能力，但他们警告说，在监管框架和机构准备就绪之前，完全自主的人工智能开发可能会实现，“当人工智能生成的代码和人类编写的代码达到同等的质量水平时，人类开发人员将完全停止编写代码并专门转向审查功能，”他们解释说，如果人工智能生成代码的速度比人类评估代码的速度快，那么人类监督将成为“技术进化中的一个变革性里程碑”。 Anthropic 强调，有效减缓人工智能发展需要在技术前沿运营的多个资金充足的实验室达成共识，并警告说，如果只有一个实验室实施暂停，那么主要结果将是重新分配竞争地位，而不是增强全球安全性。该公司的研究部门 Anthropic 研究所打算调查哪些基础设施将支持协调发展放缓，Anthropic 计划召集政策制定者、学术研究人员、民间社会组织和同行 AI 公司来探讨这些挑战。去年 12 月，OpenAI 宣布了专注于安全管理递归自我改进 AI 的研究计划，并于去年 4 月积极招募研究人员。在 Anthropic 宣布这一消息的同一天，包括 Anthropic 和 OpenAI 代表在内的技术高管联盟发表了一封公开信，敦促立法者制定更强有力的人工智能法规，特别提到了 Anthropic 以 610 亿美元的公司估值完成了最新一轮融资，并已向美国首次公开募股。通过专家分析发现人工智能、加密货币和技术领域表现最好的股票。