Представляем новаторский детектор уязвимостей агентов CertiK на базе искусственного интеллекта

CertiK запустила Skill Scanner, продукт безопасности, созданный для оценки сторонних навыков ИИ до того, как они будут использованы ИИ-агентами.

Инструмент нацелен на такие риски, как скрытое вредоносное поведение, несанкционированный доступ к данным и автономное выполнение в средах Web3 и Web2.

CertiK углубляется в безопасность ИИ, выпустив CertiK Skill Scanner, продукт, предназначенный для проверки сторонних навыков ИИ перед их установкой, публикацией или одобрением для использования внутри корпоративных систем.

Компания описывает этот инструмент как нечто близкое к антивирусному уровню эпохи агентов искусственного интеллекта. Сравнение не идеальное, но оно в точку. Агенты ИИ больше не просто отвечают на вопросы в окне чата. Они начинают вызывать внешние инструменты, читать файлы, запускать рабочие процессы, перемещать данные между системами и, в более деликатных случаях, взаимодействовать с финансовой инфраструктурой.

Это меняет уравнение безопасности. Плохое расширение браузера уже может быть опасным. Плохой навык ИИ, связанный с автономным агентом, может быть еще хуже, поскольку агент может выполнять действия быстро и в контексте, который пользователь не полностью видит.

Навыки ИИ создают новый риск исполнения

Навыки искусственного интеллекта становятся дополнительными модулями агентской экономики. Они расширяют возможности ИИ-агента: от сбора данных и автоматизации задач до выполнения финансовых действий и взаимодействия с протоколами Web3. Однако каждый дополнительный Навык также создает еще одну точку, где что-то может пойти не так.

Этот риск не ограничивается очевидным вредоносным ПО. Навык может запрашивать больше данных, чем ему необходимо, вести себя во время выполнения иначе, чем во время проверки, вызывать несанкционированные вызовы API или незаметно создавать условия для последующего неправильного использования. В финансовой среде беспокойство становится еще острее. Инструмент, который может инициировать вызовы средств, подписывать запросы рабочего процесса или готовить транзакции, требует другого уровня проверки, чем простое дополнение для повышения производительности.

В CertiK заявили, что Skill Scanner создан для обнаружения скрытого вредоносного поведения, несанкционированного доступа к данным и рисков выполнения до того, как будут раскрыты конфиденциальные системы. В отличие от более широких инструментов сканирования искусственного интеллекта, компания заявляет, что ее продукт ориентирован на риски, которые могут возникнуть во время фактического исполнения, включая случаи, связанные с движением средств и финансовыми транзакциями.

Ронхуэй Гу, генеральный директор и соучредитель CertiK, сказал, что модель безопасности, основанная на сторонних навыках, становится все более важной по мере того, как агенты ИИ проникают в финансовые системы, корпоративные рабочие процессы и повседневные цифровые услуги.

«CertiK Skill Scanner был создан для создания стандартизированного уровня доверия перед выполнением, помогая пользователям и платформам выявлять скрытые риски до того, как конфиденциальные данные, активы или системы будут раскрыты», — сказал Гу.

Маркетплейсы, предприятия и разработчики на первом месте

Первые целевые группы — это торговые площадки AI Skill, предприятия и разработчики. Торговые площадки могут интегрировать сканер в свои конвейеры публикаций, поэтому навыки проверяются перед их публикацией. Они также могут отображать вердикты CertiK в качестве индикаторов доверия для пользователей, решающих, устанавливать ли сторонний Skill.

Для предприятий вариант использования носит более оборонительный характер. Компаниям, тестирующим агенты ИИ внутри компании, нужен способ оценить навыки третьих сторон, прежде чем они войдут в производственную среду или прикоснутся к данным клиентов, внутренним системам или рабочим процессам, чувствительным к соблюдению нормативных требований. Именно здесь процесс оценки результатов становится полезным. Это дает командам безопасности нечто более конкретное, чем заявление поставщика или описание разработчика.

Независимые разработчики также могут использовать сканер для самопроверки навыков перед публикацией. В CertiK заявили, что будущие обновления расширят прямой доступ для обычных пользователей, позволяя людям самостоятельно сканировать навыки перед установкой или использованием.

Сканер выдает оценку от 0 до 100, а также вердикты «пройден», «предупреждаю» или «не пройден», а также ограниченный список результатов, сгруппированных по серьезности. CertiK заявляет, что система достигает точности до 90,5% при выявлении угроз безопасности с целью уменьшения количества ложных срабатываний и одновременного повышения надежности оценки навыков ИИ.

Продукт уже развернут в выбранных средах инфраструктуры агентов искусственного интеллекта Web3. CertiK также работает над интеграцией с дополнительными платформами AI Skill, включая FinChip.ai.

Запуск последовал за более широким расширением CertiK в инфраструктуру безопасности, ориентированную на искусственный интеллект, после того, как в начале этого года компания представила свою инициативу AI Auditor. Для фирмы, наиболее известной благодаря аудиту Web3, этот шаг является логическим продолжением. Поскольку агенты ИИ начинают обрабатывать код, активы, разрешения и бизнес-процессы, проверки безопасности должны проводиться до выполнения, а не после того, как система уже раскрыта.