Трансатлантическое сотрудничество направлено на смягчение рисков искусственного интеллекта на фоне предстоящего запуска передовой системы Mythos от Anthropic

Оглавление Европейский Союз планирует расширить переговоры с администрацией США по поводу передовых моделей искусственного интеллекта с кибервозможностями. Обсуждения сосредоточены на доступе, обзорах безопасности и правилах для мощных систем, таких как модель Mythos от Anthropic. Переговоры происходят в то время, когда Anthropic готовится представить клиентам модели класса Mythos в ближайшие недели. По сообщению CNBC, представитель Европейской комиссии заявил, что блок хочет более тесного обсуждения с официальными лицами США пограничных моделей искусственного интеллекта. Переговоры охватывают системы, которые могут поддерживать сложные киберзадачи и тестирование безопасности. ЕС не получил предварительный доступ к модели Mythos от Anthropic. Его отдел искусственного интеллекта также не проверял модель в рамках текущего процесса доступа. Anthropic предоставила ранний предварительный доступ избранным компаниям и организациям через Project Glasswing. Однако доступ правительств за пределами США остается ограниченным, за исключением Британского института безопасности искусственного интеллекта. Человек, знакомый с ходом переговоров, сообщил, что Anthropic посоветовал чиновникам ЕС запросить разрешение США. Этот человек сказал, что Белый дом возражает не только против ЕС. Тот же человек сказал, что у американских чиновников есть более серьезные опасения по поводу обмена мифами с правительствами за пределами США. В настоящее время переговоры помещают доступ к моделям в более широкую трансатлантическую дискуссию по безопасности ИИ. Белый дом сотрудничал с лабораториями искусственного интеллекта над внедрением передовых моделей. Официальные лица США хотят сохранить лидерство страны, одновременно управляя рисками безопасности. Министр финансов Скотт Бессент заявил, что администрация «очень тесно» сотрудничает с лабораториями искусственного интеллекта. Он также сказал, что чиновники хотят сбалансировать инновации и безопасность. Согласно предыдущим сообщениям, администрация выступала против более широкого расширения доступа к Mythos. Anthropic предложила предоставить доступ к этой модели еще примерно 70 компаниям и организациям. Mythos привлек внимание после того, как Anthropic объявила об этом в апреле. Модель вызвала обеспокоенность из-за ее способности выявлять уязвимости программного обеспечения в больших масштабах. Генеральный директор Anthropic Дарио Амодей предупредил в этом месяце об узком окне безопасности. Он сказал, что у организаций есть от шести до 12 месяцев на исправление многих уязвимостей, прежде чем китайский искусственный интеллект догонит их. В четверг Anthropic заявила, что модели с возможностями уровня Mythos нуждаются в надежной киберзащите перед широким выпуском. Компания также заявила, что добилась быстрого прогресса в этой защите. «Мы добиваемся быстрого прогресса в разработке этих мер безопасности», — сказал Anthropic. Компания планирует представить модели класса Mythos всем клиентам в ближайшие недели. Европейская комиссия также расширила технические переговоры с Anthropic и другими разработчиками моделей. В этих переговорах участвуют компании, которые уведомили о своих последних моделях офис искусственного интеллекта ЕС. Представитель комиссии Томас Ренье заявил, что кибербезопасность остается общим приоритетом. Он сказал, что ЕС и США согласились признать свои соответствующие стандарты в этой области. В настоящее время обсуждаются вопросы доступа к моделям, кибербезопасности и процедур проверки. Они также появляются, когда правительства изучают, как передовые системы искусственного интеллекта справляются с возможностями, чувствительными к безопасности. Следующее внедрение Anthropic позволит проверить, как лаборатории управляют доступом к мощным моделям. ЕС продолжает технические переговоры с Anthropic, одновременно стремясь к более тесным переговорам с официальными лицами США.