Experten warnen vor drohenden KI-Durchbrüchen und...

Der KI-Entwickler Anthropic hat eindringlich gewarnt, dass künstliche Intelligenzsysteme bald die Fähigkeit erreichen könnten, Modelle der nächsten Generation autonom zu entwerfen und zu trainieren. In einem Blogbeitrag vom Donnerstag wies das Unternehmen auf Bedenken hinsichtlich der rekursiven Technologie zur Selbstverbesserung hin. 🚨Das ist beängstigend: Anthropic sagt, dass die Welt bei der KI auf Pause schalten sollte. Zuvor sagte Anthropic-CEO Dario Amodei: „Die andere extreme Position ist: ‚Das ist wirklich beängstigend, wir sollten einfach innehalten … aufhören, die Technologie weiterzuentwickeln‘“ Jetzt sagt Anthropic: „Unsere KI wird beängstigend gut darin, uns zu verbessern. … pic.twitter.com/Gn0Mf04YzX – Coin Bureau (@coinbureau) 5. Juni 2026 Die Analyse stammt von Marina Favaro, die zusammen mit Firmenmitbegründer Jack Clark Initiativen leitet – deutlich schneller als frühere Schätzungen von sieben Monaten. Bis Mai dieses Jahres hatte Claude – das proprietäre KI-System – mehr als 80 % des gesamten Codes verfasst Favaro und Clark stellten fest, dass aktuelle KI-Agenten bereits über die Fähigkeit verfügen, Code unabhängig auszuführen und mehrstündige Aufgaben anderen automatisierten Systemen zuzuweisen. Sie warnten jedoch davor, dass eine vollständig autonome KI-Entwicklung erfolgen könnte, bevor regulatorische Rahmenbedingungen und Institutionen vorbereitet sind Die Autoren bezeichneten diese potenzielle Verschiebung als „einen transformativen Meilenstein in der technologischen Entwicklung“ und betonten gleichzeitig erhebliche Auswirkungen auf die Sicherheit. Eine wirksame Verlangsamung der KI-Entwicklung erforderte einen Konsens zwischen mehreren gut finanzierten Labors, die an der technologischen Grenze tätig sind, sowie eine bestimmte Aufsichtsbehörde Positionierung statt einer verbesserten globalen Sicherheit. Sollte eine Verlangsamung es weniger sicherheitsbewussten Organisationen ermöglichen, die technologische Lücke zu schließen, könnte sich dies eher verschlechtern als sich zu verbessern. Das Anthropic Institute, die Forschungsabteilung des Unternehmens, beabsichtigt, in den nächsten Monaten politische Entscheidungsträger, akademische Forscher, zivilgesellschaftliche Organisationen und Peer-KI-Unternehmen zusammenzubringen, um diese Herausforderungen zu untersuchen. OpenAI kündigte Forschungsinitiativen an, die sich auf die sichere Verwaltung rekursiv sich selbst verbessernder KI konzentrieren, und rekrutiert aktiv Forscher für dieses Programm. Im vergangenen April hielt Anthropic die Veröffentlichung seines fortschrittlichsten Modells, Claude Mythos, zurück, nachdem Tests ergeben hatten, dass das Modell mit minimalem Aufwand Software-Exploits generieren könnte Anthropic hat seine jüngste Finanzierungsrunde mit einer Unternehmensbewertung von 61 Milliarden US-Dollar abgeschlossen und vertrauliche Unterlagen für einen Börsengang in den USA mit Expertenanalyse eingereicht.