Cybersicherheitsexperten entdecken hochentwickelte Netzwerkgeräte, die mithilfe künstlicher Intelligenz digitale Geldbörsen plündern können.

Forscher der University of California haben herausgefunden, dass einige LLM-Router (AI Large Language Model) von Drittanbietern Sicherheitslücken aufweisen können, die zu Kryptodiebstahl führen können.

Ein am Donnerstag von den Forschern veröffentlichtes Papier zur Messung böswilliger Zwischenangriffe auf die LLM-Lieferkette enthüllte vier Angriffsvektoren, darunter das Einschleusen von Schadcode und das Extrahieren von Anmeldeinformationen.

„26 LLM-Router injizieren heimlich bösartige Tool-Aufrufe und stehlen Kredite“, sagte der Co-Autor des Papiers, Chaofan Shou, auf X.

LLM-Agenten leiten Anfragen zunehmend über API-Vermittler oder Router von Drittanbietern weiter, die den Zugriff auf Anbieter wie OpenAI, Anthropic und Google bündeln. Diese Router beenden jedoch Internet-TLS-Verbindungen (Transport Layer Security) und haben vollständigen Klartextzugriff auf jede Nachricht.

Dies bedeutet, dass Entwickler, die KI-Codierungsagenten wie Claude Code verwenden, um an Smart Contracts oder Wallets zu arbeiten, private Schlüssel, Seed-Phrasen und sensible Daten über eine Router-Infrastruktur weiterleiten könnten, die nicht überprüft oder gesichert wurde.

Multi-Hop-LLM-Router-Lieferkette. Quelle: arXiv.org

$ETH aus einer gefälschten Krypto-Wallet gestohlen

Die Forscher testeten 28 kostenpflichtige Router und 400 kostenlose Router, die in öffentlichen Communities gesammelt wurden.

Ihre Ergebnisse waren verblüffend: Neun Router schleusten aktiv Schadcode ein, zwei setzten adaptive Umgehungsauslöser ein, 17 griffen auf Amazon Web Services-Zugangsdaten von Forschern zu und einer entzog Ether ($ETH) einem privaten Schlüssel, der Forschern gehörte.

Verwandt: Anthropic schränkt den Zugriff auf das KI-Modell aufgrund von Bedenken hinsichtlich Cyberangriffen ein

Die Forscher finanzierten die „Köderschlüssel“ der Ethereum-Wallet mit Nominalguthaben vor und berichteten, dass der Wertverlust im Experiment unter 50 US-Dollar lag, es wurden jedoch keine weiteren Details wie der Transaktions-Hash angegeben.

Die Autoren führten außerdem zwei „Vergiftungsstudien“ durch, die zeigten, dass selbst harmlose Router gefährlich werden, wenn sie durchgesickerte Zugangsdaten über schwache Relays wiederverwenden.

Es ist schwer zu sagen, ob Router bösartig sind

Die Forscher sagten, es sei nicht einfach zu erkennen, wann ein Router bösartig sei.

„Die Grenze zwischen ‚Anmeldeinformationshandhabung‘ und ‚Anmeldeinformationsdiebstahl‘ ist für den Client unsichtbar, da Router im Rahmen der normalen Weiterleitung Geheimnisse bereits im Klartext lesen.“

Ein weiterer beunruhigender Fund war das, was die Forscher „YOLO-Modus“ nannten. Dabei handelt es sich um eine Einstellung in vielen AI-Agent-Frameworks, bei der der Agent Befehle automatisch ausführt, ohne den Benutzer jeweils um eine Bestätigung zu bitten.

Bisher legitime Router können stillschweigend zu Waffen gemacht werden, ohne dass der Betreiber es überhaupt merkt, während kostenlose Router möglicherweise Anmeldeinformationen stehlen und als Lockmittel billigen API-Zugriff anbieten, fanden die Forscher heraus.

„LLM-API-Router befinden sich an einer kritischen Vertrauensgrenze, die das Ökosystem derzeit als transparenten Transport behandelt.“

Die Forscher empfahlen Entwicklern, die KI-Agenten zum Codieren verwenden, die clientseitigen Abwehrmaßnahmen zu stärken, und schlugen vor, niemals zuzulassen, dass private Schlüssel oder Seed-Phrasen eine KI-Agentensitzung passieren.

Die langfristige Lösung besteht darin, dass KI-Unternehmen ihre Antworten kryptografisch signieren, sodass mathematisch überprüft werden kann, ob die von einem Agenten ausgeführten Anweisungen vom tatsächlichen Modell stammen.

Magazin: Niemand weiß, ob quantensichere Kryptographie überhaupt funktionieren wird