美国将在公开发布前审查微软、谷歌、xAI 的人工智能模型

微软、谷歌和 xAI 已同意向美国政府提供即将推出的人工智能模型的早期访问权限，允许官员在系统向公众发布之前检查潜在的国家安全风险。

该安排将使美国商务部下属的人工智能标准与创新中心（CAISI）能够提前测试这些模型。

据该机构称，该过程将包括对系统性能及其可能带来的风险进行技术评估和研究。

人工智能的最新进展，包括人择神话等系统，加剧了华盛顿和整个企业部门的担忧。官员和高管警告说，功能日益强大的模型可能会被滥用，特别是在网络攻击中，自动化可能会提高恶意活动的规模和速度。

最新公告中未提及 Anthropic。该公司一直与美国国防部就其工具在军事环境中使用时所采用的保障措施的范围存在分歧，凸显了围绕如何部署此类系统的持续紧张局势。

CAISI 主任 Chris Fall 表示：“独立、严格的测量科学对于理解前沿人工智能及其国家安全影响至关重要。”他强调，随着模型能力的进步，需要结构化的评估框架。

CAISI 是联邦政府测试先进人工智能系统的中心枢纽。该公司表示，已经进行了 40 多项评估，其中包括测试时尚未公开的模型。

为了支持这些评估，开发人员经常提交其模型的修改版本，并放宽了某些安全防护措施。这使得该机构能够检查最坏的情况并识别标准使用条件下可能不会出现的漏洞。

此举是在五角大楼扩大自己的人工智能合作伙伴关系后不久做出的。美国国防部上周表示，已与七家公司签署协议，在机密网络中部署先进的人工智能功能，以使其支持军事行动的技术供应商多元化。