Эксперты предупреждают о надвигающихся прорывах в...

Разработчик искусственного интеллекта Anthropic выступил с резким предупреждением о том, что системы искусственного интеллекта вскоре могут достичь способности автономно проектировать и обучать модели следующего поколения. В сообщении в блоге в четверг компания подчеркнула обеспокоенность по поводу технологии рекурсивного самосовершенствования. 🚨 ЭТО СТРАШНО: ANTHROPIC ГОВОРИТ, что МИР ДОЛЖЕН СДЕЛАТЬ ПАУЗУ В ОБЛАСТИ ИИ Ранее генеральный директор Anthropic Дарио Амодей: «Другая крайняя позиция — «это действительно страшно, нам следует просто сделать паузу… прекратить создавать технологию». Теперь Anthropic говорит: «Наш ИИ становится пугающе хорош в улучшении нас. (@coinbureau) 5 июня 2026 г. Анализ предоставлен Мариной Фаваро, которая возглавляет инициативы Anthropic Institute вместе с соучредителем компании Джеком Кларком. По их оценке, возможности ИИ удваиваются примерно каждые четыре месяца — значительно быстрее, чем предыдущие оценки в семь месяцев. К маю этого года Клод — собственная система искусственного интеллекта Anthropic — написал более 80% всего кода. Интегрированные в производственную среду Anthropic, Фаваро и Кларк отметили, что нынешние агенты ИИ уже обладают способностью выполнять код самостоятельно и поручать многочасовые задачи другим автоматизированным системам. Хотя это и не является неизбежным, они предупредили, что полностью автономная разработка ИИ может материализоваться до того, как будут подготовлены нормативные рамки и учреждения. «Когда генерируемый ИИ и написанный человеком код достигнет эквивалентного уровня качества, разработчики вообще перестанут писать код и перейдут исключительно на функции проверки», — объяснили они. Авторы охарактеризовали этот потенциальный сдвиг как «преобразующую веху в технологической эволюции», подчеркнув при этом существенные последствия для безопасности. По мнению Anthropic, эффективное замедление разработки ИИ требует консенсуса между несколькими хорошо финансируемыми лабораториями, работающими на передовых технологиях. Компания подчеркнула, что четкие протоколы должны определять условия для введения или прекращения таких пауз, а также назначить надзорный орган, что, если только одна лаборатория введет паузу, основным результатом будет перераспределение конкурентных позиций, а не усиление глобального. Anthropic Institute, исследовательское подразделение компании, намерено выяснить, какая инфраструктура будет способствовать скоординированному замедлению развития. В течение следующих нескольких месяцев Anthropic планирует собрать политиков, научных исследователей, организации гражданского общества и аналогичные компании, занимающиеся искусственным интеллектом, для изучения этих проблем. управляет рекурсивно самосовершенствующимся искусственным интеллектом и активно набирает исследователей для этой программы. В апреле прошлого года Anthropic отказалась от публичной публикации своей самой сложной модели, Claude Mythos, после выявления уязвимостей в области кибербезопасности. Тестирование показало, что модель может генерировать программные эксплойты с минимальными усилиями. В частности, сославшись на риски разработки биологического оружия, компания Anthropic завершила свой последний раунд финансирования при оценке компании в 61 миллиард долларов и представила конфиденциальную документацию для первичного публичного размещения акций в США. Откройте для себя наиболее эффективные акции в сфере искусственного интеллекта, криптовалюты и технологий с помощью экспертного анализа.