Der uneingeschränkte Zugang zur KI-Codierung löst eine Debatte über die Grenzen gemeinschaftlicher Aufsicht aus.

Laut Tests der Financial Times mit der KI-Sicherheitsgruppe Alice können Sicherheitsvorkehrungen für Open-Source-Modelle für künstliche Intelligenz von großen Technologiekonzernen mit öffentlich verfügbaren Tools innerhalb von Minuten entfernt werden, sodass Systeme Antworten auf Themen wie Biowaffen, Malware und andere verbotene Inhalte geben können.

Die am Montag veröffentlichten Erkenntnisse verstärken die Sorge, dass die von den Entwicklern eingebetteten Sicherheitsmaßnahmen möglicherweise nicht mehr bestehen bleiben, sobald Modellgewichte freigegeben und geändert werden, was die Frage aufwirft, wo die Verantwortung für die KI-Sicherheit liegen sollte.

Die Untersuchung, die mithilfe von Tools durchgeführt wurde, die in öffentlichen Code-Repositorys verfügbar sind, ergab, dass Leitplanken für Modelle, die von Unternehmen wie Meta und Google entwickelt wurden, ohne spezielle Hardware in weniger als 10 Minuten entfernt werden konnten.

Den Tests zufolge waren modifizierte Versionen der Systeme dann in der Lage, auf Eingabeaufforderungen zu reagieren, die die Originalmodelle abgelehnt hatten, einschließlich Anfragen im Zusammenhang mit Malware und chemischen Gefahren.

Die Ergebnisse verdeutlichen eine Herausforderung für politische Entscheidungsträger, da Open-Source-Systeme immer leistungsfähiger und weiter verbreitet werden.

Im Gegensatz zu proprietären Modellen können Open-Source-Systeme außerhalb der Kontrolle ihrer ursprünglichen Entwickler heruntergeladen, verändert und weitergegeben werden, was die Durchsetzung von Sicherheitsbeschränkungen nach der Veröffentlichung schwieriger macht und die Frage aufwirft, ob eine Regulierung, die sich hauptsächlich auf die Modellentwicklung konzentriert, ausreichend ist.

Governance-Grenzen

Globale Regulierungsbehörden entwickeln Rahmenwerke für fortschrittliche KI-Systeme, darunter das KI-Gesetz der Europäischen Union und neue Grenzmodell-Sicherheitsansätze im Vereinigten Königreich und in den Vereinigten Staaten. Experten sagen jedoch, dass die Ergebnisse Einschränkungen in den aktuellen Governance-Annahmen aufzeigen.

Das KI-Gesetz der Europäischen Union. Quelle: Europäische Kommission

Markus Levin, Mitbegründer des dezentralen physischen Infrastrukturnetzwerkunternehmens

David Minarsch, Gründungsmitglied von Olas und Geschäftsführer von Valory, einer Plattform für KI-Agenten, sagte gegenüber Cointelegraph, dass Regierungen entschlossene Akteure wahrscheinlich nicht daran hindern werden, auf Modelle zuzugreifen oder diese zu ändern, sobald Gewichte online weitgehend gespiegelt werden. Er sagte, die Regulierung wäre effektiver, wenn sie sich auf die Bereitstellung, Verbreitung und schädliche Nutzung in der Praxis konzentrieren würde und nicht nur auf die ursprüngliche Entwicklerebene.

Die Kontrolle bewegt sich stromabwärts

Ronghui Gu, Geschäftsführer und Mitbegründer von CertiK, einem Blockchain-Sicherheitsunternehmen, sagte gegenüber Cointelegraph, dass die Governance auf Entwicklerebene immer noch wichtig sei, aber nicht mehr ausreiche, sobald Modelle frei heruntergeladen und weitergegeben werden könnten.

Gu sagte, die politischen Entscheidungsträger würden eher Einfluss auf kommerzielles Hosting, Unternehmenseinsatz und Vertriebskanäle nehmen, als dass sie die Verbreitung modifizierter Modelle vollständig verhindern würden.

Er argumentierte, dass Sicherheitsstandards weiterentwickelt werden müssen, um böswilliges oder risikoreiches Verhalten in KI-Tools von Drittanbietern und autonomen KI-Agentenumgebungen vor der Bereitstellung zu erkennen, um Laufzeitbedrohungen besser einzudämmen, da Agenten autonomere Rollen übernehmen.

Levin sagte, die Eindämmung werde immer schwieriger, sobald Modelle gespiegelt und neu verteilt würden, was bedeutet, dass sich politische Entscheidungsträger möglicherweise mehr auf Infrastruktur und Verteilungspunkte konzentrieren müssen als nur auf das Modelldesign.

Sowohl Levin als auch Minarsch verglichen das Problem mit Open-Source-Software und Kryptonetzwerken, wo sich Versuche, die Verbreitung zu unterdrücken, in der Vergangenheit als schwierig erwiesen haben, sobald der Code öffentlich verfügbar ist. Minarsch fügte hinzu, dass Sicherheitsschichten zwar gelegentlichen Missbrauch abschrecken können, sie jedoch nicht mit einem robusten Schutz vor raffinierten Akteuren verwechselt werden sollten.