США рассмотрят модели искусственного интеллекта от Microsoft, Google и xAI перед их публичным выпуском
Microsoft, Google и xAI договорились предоставить правительству США ранний доступ к будущим моделям искусственного интеллекта, что позволит чиновникам изучать потенциальные угрозы национальной безопасности до того, как системы будут опубликованы.
Эта договоренность позволит Центру стандартов и инноваций ИИ (CAISI), работающему при Министерстве торговли США, заранее протестировать эти модели.
По данным агентства, процесс будет включать технические оценки и исследования того, как работают системы, а также рисков, которые они могут представлять.
Недавние достижения в области искусственного интеллекта, включая такие системы, как Anthropic Mythos, усилили обеспокоенность в Вашингтоне и во всем корпоративном секторе. Чиновники и руководители предупреждают, что все более мощные модели могут быть использованы не по назначению, особенно в кибератаках, где автоматизация может увеличить масштаб и скорость вредоносной деятельности.
В последнем анонсе Anthropic не упоминался. У компании были разногласия с Министерством обороны США по поводу степени защиты, применяемой при использовании ее инструментов в военной среде, что подчеркивает сохраняющуюся напряженность вокруг того, как следует развертывать такие системы.
«Независимая, строгая наука об измерениях необходима для понимания передового ИИ и его последствий для национальной безопасности», — сказал директор CAISI Крис Фолл, подчеркнув необходимость в структурированных структурах оценки по мере развития возможностей моделей.
CAISI выступает в качестве центрального центра федерального правительства по тестированию передовых систем искусственного интеллекта. Компания заявила, что уже провела более 40 оценок, в том числе моделей, которые еще не были обнародованы на момент тестирования.
Чтобы поддержать эти оценки, разработчики часто представляют модифицированные версии своих моделей с ослабленными определенными ограничениями безопасности. Это позволяет агентству изучать наихудшие сценарии и выявлять уязвимости, которые могут не проявиться при стандартных условиях использования.
Этот шаг был предпринят вскоре после того, как Пентагон расширил свои собственные партнерства в области искусственного интеллекта. Министерство обороны США заявило на прошлой неделе, что оно подписало соглашения с семью компаниями о развертывании передовых возможностей искусственного интеллекта в секретных сетях, поскольку оно стремится диверсифицировать свой пул поставщиков технологий, поддерживающих военные операции.