Агенты ИИ застряли в пилотном режиме, потому что банки по-прежнему им не доверяют
Агентический ИИ привлекает внимание в финансовой сфере, но самым большим препятствием для отрасли больше не является то, достаточно ли мощны модели. Более сложная проблема заключается в том, имеют ли банки, управляющие активами и казначейства инфраструктуру для делегирования финансовых задач автономным системам без потери контроля над деньгами, подотчетности или соблюдения требований.
Опрос Deloitte, в котором приняли участие более 3300 специалистов в области финансов и бухгалтерского учета, ясно показал этот разрыв: 80,5% заявили, что инструменты на базе ИИ, такие как агенты и чат-боты GenAI, могут стать стандартом в течение пяти лет, но только 13,5% заявили, что их организации уже используют агентный ИИ.
Citi Sky показал, почему дебаты об инфраструктуре важны
22 апреля Citi запустила Citi Sky, помощника по благосостоянию на базе искусственного интеллекта, созданного с использованием технологий Google Cloud и Google DeepMind. Инструмент был разработан с использованием платформы Google Gemini Enterprise Agent и этим летом планируется поэтапное внедрение среди клиентов Citigold в США.
Запуск дал дебатам об агентном ИИ живой пример банковского дела. Глава Citi по технологиям благосостояния Дипендра Малхотра указал на память как на главное ограничение для консультативного ИИ с высокими ставками, спросив, как долго клиент может поддерживать разговор, прежде чем система начнет галлюцинировать.
Большинство агентов полагаются на генерацию с расширенным поиском для расширения памяти через внешние базы данных. Контекстные окна по-прежнему ограничивают объем информации, которую агент может хранить одновременно.
В финансовом консультировании, управлении казначейством или исполнении портфеля этот потолок памяти становится больше, чем технической проблемой. Это становится операционным риском.
МинЧи Парк, соучредитель CoinFello, сказал, что условия надежного делегирования просты: агент может действовать только в соответствии с инструкциями пользователя, пользователь может остановить его, а базовые активы никогда не переходят к третьей стороне.
Ethereum разрабатывает примитивы в цепочке для идентификации агента
Предложение Ethereum ERC-8004 представляет системы идентификации, репутации и проверки агентов. Проект стандарта устанавливает три реестра: реестр личности, реестр репутации и реестр проверки.
Вместе они призваны помочь автономным агентам доказать, кем они являются, составить отчет о поведении и поддержать проверку со стороны других участников рынка.
ERC-8183 идет по более узкому маршруту. Он предлагает стандарт условного депонирования работ с аттестацией оценщика, при котором клиент финансирует работу, поставщик отправляет работу, а оценщик завершает или отклоняет результат.
Это предложение не предусматривает арбитража или формального разрешения споров, но оно дает агентским рынкам основу для депонированных задач и поддающегося проверке завершения.
В документе arXiv «Агентная экономика: основанная на блокчейне основа для автономных агентов искусственного интеллекта» представлена пятиуровневая архитектура этого сдвига, охватывающая физическую инфраструктуру, сетевую идентичность, когнитивные инструменты, экономическое урегулирование и коллективное управление.
Уровень репутации по-прежнему несет в себе структурную уязвимость. Агенты могут генерировать активность со скоростью и масштабом, с которыми люди не могут сравниться, что позволяет раздувать сигналы доверия за короткие периоды времени.
Это ставит перед финансовыми учреждениями сложный вопрос: когда у агента хорошая репутация, является ли эта запись свидетельством надежности или просто свидетельством повторяющейся автоматизированной деятельности?
McKinsey контролирует от 50% до 60% банковских операций
По оценкам McKinsey, от 50% до 60% эквивалентов банковской полной занятости связаны с операциями. Эксперты предупреждают о «пилотном чистилище», когда учреждения проводят узкую проверку концепции без изменения операционной модели.
Как сообщил Cryptopolitan на гонконгском фестивале Web3, McKinsey прогнозирует, что рынок агентного ИИ вырастет с 5,25 млрд долларов в 2024 году до примерно 200 млрд долларов к 2034 году.
Портер Стоуэлл, генеральный директор W3.io, сказал: "У предприятий нет возможности видеть, контролировать или проверять, что автономные системы делают с их деньгами. Человеческий надзор не исчезает. Он просто перемещается вверх по стеку".
Остаются нерешенными четыре вопроса: кто несет ответственность, когда агент ИИ причиняет финансовые убытки, можно ли доверять его репутации, кто контролирует ситуацию, когда эти системы развернутся в большом масштабе, и какая нормативная база применяется, когда агент действует за пределами своей компетенции.