Нация должна быть готова к важнейшим прорывам в области искусственного интеллекта и потенциальным опасностям, говорит технический руководитель

Исполнительный директор OpenAI Сэм Альтман заявил, что политики США должны действовать уже сейчас, чтобы подготовиться к внедрению передового искусственного интеллекта, предупредив, что технология переходит от теории к повседневному экономическому использованию.

В интервью Axios Альтман сказал, что системы искусственного интеллекта уже решают задачи кодирования и исследования, которые когда-то требовали команд программистов. По его словам, новые модели пойдут дальше, помогая ученым делать важные открытия и позволяя отдельным людям выполнять работу целых групп.

Этот сдвиг уже заметен в сфере кибербезопасности, где некоторые лидеры отрасли говорят, что искусственный интеллект склоняет чашу весов в сторону злоумышленников.

Шарль Гийме, технический директор компании-производителя аппаратных кошельков Ledger, например, рассказал CoinDesk, что инструменты искусственного интеллекта снижают затраты и навыки, необходимые для поиска и использования недостатков программного обеспечения. Задачи, которые раньше занимали месяцы, такие как реверс-инжиниринг кода или связывание нескольких уязвимостей, теперь можно выполнить за считанные секунды с помощью правильных подсказок.

В прошлом году в криптоиндустрии в результате атак было украдено или потеряно активов на сумму более 1,4 миллиарда долларов. Эта цифра может продолжать расти, предположил Гиллеме. Более того, разработчики все чаще полагаются на код, сгенерированный искусственным интеллектом, который потенциально может привести к появлению новых недостатков в масштабе.

Ответ, по его словам, потребует более сильных средств защиты, таких как математически проверенный код, аппаратные устройства, которые хранят закрытые ключи в автономном режиме, и более широкое признание того, что системы могут выйти из строя.

ИИ в кибербезопасности и биобезопасности

Хотя Альтман отметил, что ИИ может ускорить разработку лекарств или материаловедение, он также отметил, что он также может обеспечить более мощные кибератаки и снизить барьер для вредных биологических исследований. Такие угрозы могут возникнуть в течение года, что делает срочной координацию между правительством, технологическими фирмами и группами безопасности.

«Мы не так уж далеки от мира, где существуют невероятно мощные модели с открытым исходным кодом, которые очень хороши в биологии», — сказал он. «Необходимость общества быть устойчивым к террористическим группам, использующим эти модели для создания новых патогенов, больше не является теоретической вещью».

Еще одним примером, который он предложил, была «потрясающая мир кибератака», которая может произойти уже в этом году. По его словам, чтобы избежать этого, потребуется «огромный объем работы».

Он сформулировал политические идеи OpenAI как отправную точку, стремясь стимулировать дискуссию о том, как управлять системами, которые быстро обучаются и действуют во многих областях. По его словам, использование искусственного интеллекта для защиты от этих потенциальных атак очень важно.

Что касается потенциальной национализации OpenAI, Альтман заявил, что аргументы против нее основаны на необходимости того, чтобы США достигли «сверхразума» раньше, чем это сделают их конкуренты.

«Самым большим аргументом против национализации было бы то, что нам нужно, чтобы США преуспели в создании сверхинтеллекта таким образом, чтобы это соответствовало демократическим ценностям Соединенных Штатов, прежде чем это сделает кто-то другой», — сказал он. «Вероятно, это не сработает как государственный проект, я думаю, это печально».

Тем не менее, Альтман сказал, что, по его мнению, компании, занимающиеся ИИ, должны тесно сотрудничать с правительством США.

Учитывая его роль в OpenAI, Альтман также имеет финансовую заинтересованность в развитии сектора. Эта позиция может повлиять на то, как он формулирует как актуальность регулирования, так и роль частных компаний, таких как OpenAI, в управлении возникающими рисками, которые могут повлиять на конкурентоспособность фирмы.

ИИ как утилита

Энергетика — одна из областей, в которой он видит быстрый прогресс, поскольку увеличение вычислительной мощности может снизить затраты по мере роста спроса на ИИ.

Альтман также указал на первые признаки смены рабочей силы. Программист в 2026 году, по его словам, уже работает иначе, чем годом ранее.

ИИ станет своего рода утилитой, такой как электричество, встроенной в устройства, в то время как стоимость базового интеллекта снизится, а лучшие системы останутся дорогими.

«У вас будет личный суперпомощник, работающий в облаке», — сказал Альтман. «Если вы используете его часто или используете его на высоком уровне интеллекта, у вас будет более высокий счет за один месяц, а если вы будете использовать его меньше, у вас будет меньший счет».

«Невероятно важно, чтобы люди, создающие ИИ, были добросовестными и заслуживающими доверия людьми».