Transatlantische Zusammenarbeit soll die Risiken der künstlichen Intelligenz vor dem Hintergrund der bevorstehenden Einführung des Advanced Mythos Systems durch Anthropic mindern

Inhaltsverzeichnis Die Europäische Union plant, die Gespräche mit der US-Regierung über fortschrittliche KI-Modelle mit Cyberfähigkeiten auszuweiten. Im Mittelpunkt der Diskussionen stehen Zugriff, Sicherheitsüberprüfungen und Regeln für leistungsstarke Systeme wie das Mythos-Modell von Anthropic. Die Gespräche finden statt, während Anthropic sich darauf vorbereitet, in den kommenden Wochen Modelle der Mythos-Klasse zu Kunden zu bringen. Laut CNBC sagte ein Beamter der Europäischen Kommission, der Block wünsche sich intensivere Gespräche mit US-Beamten über Grenz-KI-Modelle. In den Vorträgen geht es um Systeme, die komplexe Cyber-Aufgaben und Sicherheitstests unterstützen können. Die EU hat keinen Vorschauzugang zum Mythos-Modell von Anthropic erhalten. Auch das KI-Büro hat das Modell im Rahmen des aktuellen Zugriffsprozesses nicht überprüft. Anthropic gewährte ausgewählten Unternehmen und Organisationen über Project Glasswing frühzeitig Zugang zur Vorschau. Der Zugang der Regierung außerhalb der USA bleibt jedoch begrenzt, mit Ausnahme des britischen AI Security Institute. Eine mit den Gesprächen vertraute Person sagte, Anthropic habe EU-Beamten angewiesen, die Genehmigung der USA einzuholen. Die Person sagte, das Weiße Haus habe keine Einwände gegen die EU allein. Dieselbe Person sagte, US-Beamte hätten größere Bedenken hinsichtlich der Weitergabe von Mythos an Nicht-US-Regierungen. Die Gespräche stellen den Modellzugang nun in eine breitere transatlantische KI-Sicherheitsdiskussion dar. Das Weiße Haus hat mit KI-Laboren an der Bereitstellung fortschrittlicher Modelle zusammengearbeitet. US-Beamte wollen die Führung des Landes behaupten und gleichzeitig Sicherheitsrisiken bewältigen. Finanzminister Scott Bessent sagte, die Regierung arbeite „sehr eng“ mit KI-Laboren zusammen. Er sagte auch, dass die Beamten Innovation und Sicherheit in Einklang bringen wollen. Früheren Berichten zufolge lehnte die Regierung eine umfassendere Ausweitung des Mythos-Zugangs ab. Anthropic hatte vorgeschlagen, rund 70 weiteren Unternehmen und Organisationen Zugang zu dem Modell zu gewähren. Mythos erregte Aufmerksamkeit, nachdem Anthropic es im April angekündigt hatte. Das Modell gab Anlass zur Sorge, da es Berichten zufolge in der Lage ist, Software-Schwachstellen in großem Maßstab zu identifizieren. Anthropic-CEO Dario Amodei warnte diesen Monat vor einem engen Sicherheitsfenster. Er sagte, Organisationen hätten sechs bis zwölf Monate Zeit, um viele Schwachstellen zu schließen, bevor die chinesische KI aufholte. Anthropic sagte am Donnerstag, dass Modelle mit Funktionen auf Mythos-Niveau starke Cyber-Sicherheitsmaßnahmen benötigen, bevor sie auf breiter Basis veröffentlicht werden. Das Unternehmen gab außerdem an, bei diesen Schutzmaßnahmen schnelle Fortschritte gemacht zu haben. „Wir machen schnelle Fortschritte bei der Entwicklung dieser Schutzmaßnahmen“, sagte Anthropic. Das Unternehmen geht davon aus, in den kommenden Wochen allen Kunden Modelle der Mythos-Klasse anbieten zu können. Die Europäische Kommission hat außerdem die technischen Gespräche mit Anthropic und anderen Modellentwicklern ausgeweitet. An diesen Gesprächen sind Unternehmen beteiligt, die ihre neuesten Modelle dem EU-KI-Büro gemeldet haben. Kommissionssprecher Thomas Regnier sagte, Cybersicherheit bleibe eine gemeinsame Priorität. Er sagte, die EU und die USA seien übereingekommen, ihre jeweiligen Standards in diesem Bereich anzuerkennen. Die Diskussionen umfassen nun den Modellzugang, Cyber-Sicherheitsmaßnahmen und Überprüfungsverfahren. Sie kommen auch, wenn Regierungen untersuchen, wie fortschrittliche KI-Systeme mit sicherheitsrelevanten Funktionen umgehen. Beim nächsten Rollout von Anthropic wird getestet, wie Labore den Zugriff auf leistungsstarke Modelle verwalten. Die EU setzt die technischen Gespräche mit Anthropic fort und strebt gleichzeitig engere Gespräche mit US-Beamten an.