技术领袖表示，国家必须为关键的人工智能突破和潜在危险做好准备

OpenAI 首席执行官山姆·奥尔特曼 (Sam Altman) 表示，美国政策制定者必须立即采取行动，为先进人工智能做好准备，并警告说，该技术正在从理论转向日常经济应用。

Altman 在接受 Axios 采访时表示，人工智能系统已经可以处理曾经需要程序员团队才能完成的编码和研究任务。他说，新的模型将走得更远，帮助科学家做出重大发现，并允许个人完成整个团队的工作。

这种转变在网络安全领域已经很明显，一些行业领导者表示，人工智能正在使天平向攻击者倾斜。

例如，硬件钱包制造商 Ledger 的首席技术官 Charles Guillemet 告诉 CoinDesk，人工智能工具正在降低查找和利用软件缺陷所需的成本和技能。曾经需要数月才能完成的任务，例如逆向工程代码或链接多个漏洞，现在只要有正确的提示就可以在几秒钟内完成。

去年，加密行业的资产在攻击中被盗或丢失的金额超过 14 亿美元。吉列梅表示，这个数字可能会继续增长。此外，开发人员越来越依赖人工智能生成的代码，这可能会大规模引入新的缺陷。

他说，应对措施将需要更强大的防御措施，例如经过数学验证的代码、使私钥保持离线状态的硬件设备，以及更广泛地认识到系统可能会失败。

网络、生物安全领域的人工智能

虽然奥特曼指出人工智能可以加速药物发现或材料科学，但他还指出，它还可以实现更强大的网络攻击并降低有害生物研究的障碍。此类威胁可能会在一年内出现，这使得政府、科技公司和安全团体之间的协调变得紧迫。

“我们离这样一个世界并不遥远，那里有非常强大的、非常擅长生物学的开源模型，”他说。 “社会需要对恐怖组织利用这些模型试图创造新的病原体保持弹性，这不再是一个理论上的事情。”

他提出的另一个例子是最早可能在今年发生的“震惊世界的网络攻击”。他说，避免这种情况需要“大量的工作”。

他将 OpenAI 的政策理念作为起点，旨在推动有关如何管理快速学习并跨多个领域行动的系统的辩论。他说，使用人工智能来帮助防御这些潜在的攻击很重要。

关于 OpenAI 潜在的国有化，奥特曼表示，反对它的理由取决于美国需要先于竞争对手实现“超级智能”。

他说：“反对国有化的最大理由是，我们需要美国先于其他国家以符合美国民主价值观的方式成功建立超级人工智能。” “作为一个政府项目，这可能行不通，我认为这是一件可悲的事情。”

尽管如此，奥特曼表示，他认为参与人工智能的公司必须与美国政府密切合作。

鉴于 Altman 在 OpenAI 的角色，该行业的发展也与 Altman 有着密切的关系。这一立场可能会影响他如何界定监管的紧迫性以及 OpenAI 等私营公司在管理新兴风险方面的作用，这可能会影响公司的竞争地位。

人工智能作为一种实用工具

能源是他认为进展迅速的领域之一，因为随着人工智能需求的增长，更大的处理能力可以降低成本。

奥特曼还指出了劳动力转移的早期迹象。他说，2026 年的程序员的工作方式已经与一年前有所不同。

人工智能将成为一种公用事业，就像电力一样，嵌入到设备中，而基本智能的成本下降，而顶级系统仍然昂贵。

“你将拥有在云端运行的个人超级助手，”奥特曼说。 “如果你经常使用它或者以高智力水平使用它，你一个月的账单就会更高，如果你使用得少，你一个月的账单就会更低。”

“构建人工智能的人必须是高度正直、值得信赖的人，这一点极其重要。”