Wir stellen den bahnbrechenden KI-gestützten Agent-Schwachstellendetektor von CertiK vor

CertiK hat den Skill Scanner auf den Markt gebracht, ein Sicherheitsprodukt, das entwickelt wurde, um KI-Fähigkeiten von Drittanbietern zu bewerten, bevor sie von KI-Agenten verwendet werden.

Das Tool zielt auf Risiken wie verstecktes böswilliges Verhalten, unbefugten Datenzugriff und autonome Ausführung in Web3- und Web2-Umgebungen ab.

CertiK dringt mit der Einführung des CertiK Skill Scanners tiefer in die KI-Sicherheit vor, einem Produkt, das zur Überprüfung von KI-Fähigkeiten von Drittanbietern entwickelt wurde, bevor diese installiert, veröffentlicht oder für die Verwendung in Unternehmenssystemen genehmigt werden.

Das Unternehmen beschreibt das Tool als etwas, das einer Antivirenschicht für die Ära der KI-Agenten nahe kommt. Der Vergleich ist nicht perfekt, aber er bringt es auf den Punkt. KI-Agenten beantworten nicht mehr nur Fragen in einem Chatfenster. Sie beginnen, externe Tools aufzurufen, Dateien zu lesen, Workflows auszulösen, Daten zwischen Systemen zu verschieben und in sensibleren Fällen mit der Finanzinfrastruktur zu interagieren.

Das verändert die Sicherheitsgleichung. Eine schlechte Browsererweiterung kann bereits gefährlich sein. Eine schlechte KI-Fähigkeit, die mit einem autonomen Agenten verbunden ist, kann schlimmer sein, da der Agent Aktionen möglicherweise schnell und in einem Kontext ausführt, den der Benutzer nicht vollständig erkennt.

KI-Fähigkeiten schaffen ein neues Ausführungsrisiko

KI-Fähigkeiten werden zu Plug-Ins der Agentenökonomie. Sie erweitern die Möglichkeiten eines KI-Agenten, vom Abrufen von Daten und der Automatisierung von Aufgaben bis hin zur Ausführung finanzieller Aktionen und der Interaktion mit Web3-Protokollen. Jeder zusätzliche Skill schafft jedoch auch einen weiteren Punkt, an dem etwas schief gehen kann.

Dieses Risiko ist nicht auf offensichtliche Malware beschränkt. Ein Skill fordert möglicherweise mehr Daten an, als er benötigt, verhält sich während der Ausführung anders als während der Überprüfung, löst nicht autorisierte API-Aufrufe aus oder schafft stillschweigend Bedingungen für einen späteren Missbrauch. Im Finanzumfeld wird die Sorge noch größer. Ein Tool, das Geldabrufe initiieren, Workflow-Anfragen unterzeichnen oder Transaktionen vorbereiten kann, erfordert eine andere Prüfung als ein einfaches Produktivitäts-Add-on.

Laut CertiK ist der Skill Scanner darauf ausgelegt, verstecktes böswilliges Verhalten, unbefugten Datenzugriff und Ausführungsrisiken zu erkennen, bevor sensible Systeme offengelegt werden. Im Gegensatz zu umfassenderen KI-Scanning-Tools konzentriert sich sein Produkt nach Angaben des Unternehmens auf Risiken, die während der tatsächlichen Ausführung auftreten können, einschließlich Fällen im Zusammenhang mit Geldbewegungen und Finanztransaktionen.

Ronghui Gu, CEO und Mitbegründer von CertiK, sagte, dass das Sicherheitsmodell rund um die Fähigkeiten Dritter immer wichtiger wird, da KI-Agenten in Finanzsysteme, Unternehmensabläufe und alltägliche digitale Dienste vordringen.

„CertiK Skill Scanner wurde entwickelt, um vor der Ausführung eine standardisierte Vertrauensschicht einzurichten und Benutzern und Plattformen dabei zu helfen, versteckte Risiken zu erkennen, bevor sensible Daten, Vermögenswerte oder Systeme offengelegt werden“, sagte Gu.

Marktplätze, Unternehmen und Entwickler stehen an erster Stelle

Die ersten Zielgruppen sind KI-Skill-Marktplätze, Unternehmen und Entwickler. Marktplätze können den Scanner in ihre Veröffentlichungspipelines integrieren, sodass Fähigkeiten überprüft werden, bevor sie live geschaltet werden. Sie können CertiK-Urteile auch als Vertrauensindikatoren für Benutzer anzeigen, die entscheiden, ob sie einen Skill eines Drittanbieters installieren möchten.

Für Unternehmen ist der Anwendungsfall defensiver. Unternehmen, die KI-Agenten intern testen, benötigen eine Möglichkeit, die Fähigkeiten Dritter zu bewerten, bevor sie Produktionsumgebungen betreten oder Kundendaten, interne Systeme oder Compliance-relevante Arbeitsabläufe berühren. Hier erweist sich ein bewerteter Überprüfungsprozess als nützlich. Es gibt Sicherheitsteams etwas Konkreteres als eine Herstellerangabe oder eine Entwicklerbeschreibung.

Unabhängige Entwickler können den Scanner auch zur Selbstprüfung von Fertigkeiten vor der Veröffentlichung verwenden. Laut CertiK werden zukünftige Updates den direkten Zugriff für normale Benutzer erweitern und es Einzelpersonen ermöglichen, Skills vor der Installation oder Verwendung selbst zu scannen.

Der Scanner erzeugt eine Bewertung von 0 bis 100, zusammen mit den Urteilen „Bestanden“, „Warnung“ oder „Nicht bestanden“ und einer begrenzten Liste von Ergebnissen, gruppiert nach Schweregrad. Laut CertiK erreicht das System eine Genauigkeit von bis zu 90,5 % bei der Identifizierung von Sicherheitsrisiken, mit dem Ziel, Fehlalarme zu reduzieren und gleichzeitig die Beurteilung von KI-Fähigkeiten zuverlässiger zu machen.

Das Produkt wurde bereits in ausgewählten Web3-KI-Agent-Infrastrukturumgebungen bereitgestellt. CertiK arbeitet auch an Integrationen mit weiteren AI-Skill-Plattformen, darunter FinChip.ai.

Der Start folgt auf CertiKs breitere Expansion in die KI-fokussierte Sicherheitsinfrastruktur, nachdem das Unternehmen Anfang des Jahres seine AI-Auditor-Initiative eingeführt hatte. Für ein Unternehmen, das vor allem für Web3-Audits bekannt ist, ist dieser Schritt eine logische Erweiterung. Da KI-Agenten beginnen, Code, Assets, Berechtigungen und Geschäftsabläufe zu verwalten, müssen Sicherheitsüberprüfungen vor der Ausführung erfolgen und nicht erst, nachdem ein System bereits offengelegt wurde.