Высшие финансовые лидеры предстали перед государственными регулирующими органами из-за опасений по поводу революции искусственного интеллекта, вызванной революционной технологией Anthropic
Неожиданным шагом стало то, что во вторник в штаб-квартире Министерства финансов США в Вашингтоне состоялось внеочередное собрание, на котором министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл объединили усилия, чтобы созвать срочную встречу с высшими руководителями ведущих банков Уолл-стрит. Импровизированная сессия была вызвана опасениями по поводу недавно представленной системы искусственного интеллекта Anthropic Mythos и ее потенциала поставить под угрозу кибербезопасность финансовой инфраструктуры страны.
На встрече присутствовали такие системно значимые финансовые учреждения, как Citigroup, Morgan Stanley, Bank of America, Wells Fargo и Goldman Sachs. Целью встречи было обеспечение того, чтобы эти системно значимые финансовые учреждения были адекватно оснащены для смягчения рисков, связанных с Mythos. Примечательно, что на мероприятии отсутствовал генеральный директор JPMorgan Джейми Даймон, хотя причина его неучастия не разглашается.
Быстрой организации встречи способствовал тот факт, что несколько руководителей банков уже находились в Вашингтоне по несвязанным с ней делам, что позволило федеральным чиновникам направить приглашения и собрать группу вместе в кратчайшие сроки. Тот факт, что все пять банков-участников имеют системно значимый статус, подчеркивает возможность широкомасштабного нарушения глобальной финансовой экосистемы в случае нарушения безопасности.
Mythos, разработанная Anthropic, представляет собой передовую систему искусственного интеллекта, предназначенную для выявления и использования уязвимостей безопасности в программной инфраструктуре. В отличие от своих аналогов, ориентированных на потребителя, Mythos специально разработан для расширенного анализа кибербезопасности и операций по разработке программного обеспечения. По словам Anthropic, система может похвастаться способностью обнаруживать уязвимости нулевого дня (ранее неизвестные бреши в безопасности в программном обеспечении, которые остаются неисправленными) и разрабатывать функциональные эксплойты для извлечения выгоды из этих слабостей.
Хотя Anthropic представила Mythos, компания намеренно ограничила его внедрение избранной группой из примерно 40 технологических корпораций, включая Microsoft и Google, в рамках эксклюзивной инициативы, известной как «Project Glasswing». Сообщается, что такой осторожный подход вызван опасениями по поводу того, что Mythos может выявить нераскрытые слабости кибербезопасности, которыми могут воспользоваться злоумышленники.
Последствия Mythos выходят за рамки традиционного банковского дела: специалисты по криптовалютам и децентрализованным финансам (DeFi) бьют тревогу по поводу того, что система искусственного интеллекта может стать оружием против уязвимостей в системах DeFi. Способность модели быстро выявлять и использовать недостатки безопасности нулевого дня представляет значительные риски для децентрализованных платформ, которые в значительной степени полагаются на целостность смарт-контрактов.
Кроме того, Anthropic в настоящее время вовлечена в юридический спор с Пентагоном, который включил компанию в список предприятий, ответственных за безопасность цепочки поставок, — решение, которое Anthropic активно оспаривает. Несмотря на запросы о комментариях, представители Goldman Sachs, Wells Fargo, Федеральной резервной системы, Министерства финансов и Anthropic отказались давать заявления по этому поводу.