Unkontrollierbare Risiken: KI-Bosse in den USA wollen Entwicklung bremsen

Warnung vor Sicherheitsgefahren KI-Bosse wollen weniger Tempo und mehr Regulierung

Stand: 13.09.2026 • 06:47 Uhr

Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint der Chef von Anthropic, und fordert Regulierungen. Unterstützung bekommt er ausgerechnet von OpenAI-Chef Altman und Tech-Unternehmer Musk.

Ein ehemaliger Mitarbeiter der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, hatte die Diskussion um die Risiken Künstlicher Intelligenz in den vergangenen Tagen in den USA wieder heftig angefacht. Coxon hatte Szenarien prophezeit, die die Menschheit auslöschen könnten, wie die Entwicklung von Biowaffen- und tödlichen Infrastruktur-Attacken.

Anthropic hatte in einem Sicherheitsbericht vergangene Woche selbst von Versuchen gesprochen, sein KI-Modell Claude für "böswillige Aktivitäten" zu nutzen, die etwa die Entwicklung biologischer Waffen unterstützen könnten.

Jetzt legte Anthropic-Chef Dario Amodei in einem Essay nach und pflichtete seinem Ex-Mitarbeiter Coxon grundsätzlich bei, wie er im Sender CNN ausführte. KI könnte sich so schnell weiterentwickeln, dass ein solches System in der Lage wäre, innerhalb von sechs bis zwölf Monaten das gesamte Internet zu übernehmen, mit Folgeschäden in Milliardenhöhe.

Selbstverpflichtung und externe Prüfer?

Darum sei der richtige Weg, dass die Branche zusammenarbeite und den Wettlauf um die Entwicklung Künstlicher Intelligenz verlangsame. Andererseits dürfe man auch nicht zu zögerlich werden: Dann bestünde die Gefahr, dass die falschen Kräfte die Federführung der Entwicklung übernehmen würden.

Amodei fordert KI-Unternehmen auf, Leitplanken für ein "kontrolliertes Fortschreiten an der technologischen Spitzenfront" einzuführen - etwa eine Selbstverpflichtung, externe Prüfer mit umfassenden Zugriffsrechten im eigenen Haus zu beschäftigen. So etwas gäbe es beispielsweise schon in der Finanzbranche. Amodei betont, Regierungen - ob demokratisch oder nicht - sollten sich abstimmen, um gemeinsame Sicherheitsstandards zu etablieren.

Zustimmende Äußerungen zu seinen Vorschlägen kamen im Netz binnen kurzer Zeit von OpenAI-Chef Sam Altman und Tech-Unternehmer Elon Musk. Von der US-Regierung erwartet Amodei jetzt, dass sie gemeinsam mit der Branche dafür Sorge trage, KI-Sicherheit verbindlich zu machen.

US-Regierung griff bisher kaum ein

Die Sicherheitsexpertin Juliette Kayyam, ehemalige Staatssekretärin im US-Innenministerium, warf den KI-Firmen Scheinheiligkeit vor. Sie hätten gesetzliche Regulierungen bisher verhindert und würden sie nun ganz plötzlich befürworten.

Die US-Regierung von Präsident Donald Trump hat die Zügel in Sachen KI-Sicherheit bisher lockergelassen und betonte außerdem immer wieder, den weltweiten KI-Wettlauf gewinnen und nicht einhegen zu wollen. Anderseits wird im Kongress ein sogenanntes Kill-Switch-Gesetz diskutiert, mit dem man außer Kontrolle geratene KIs abschalten könnte.

Noch weiter gehen will der unabhängige Senator aus Vermont, Bernie Sanders, der die Entwicklung einer Super-Intelligenz komplett verbieten will. Er hatte schon vor Amodeis Äußerungen alle Mitglieder des US-Senats für kommende Woche in einer privaten, parteiübergreifenden Initiative eingeladen hat, um über die außerordentlichen Risiken Künstlicher Intelligenz zu sprechen.

Wenn selbst die Chefs der KI-Unternehmen sagen, sie hätten die Entwicklung nicht mehr im Griff, so Sanders bei CNN, dann sei es höchste Zeit für Kontrolle durch das amerikanische Volk.

OpenAI verschiebt Börsengang

Angesichts der aktuellen Sicherheitsbedenken will OpenAI seinen geplanten Börsengang verschieben. Chef Sam Altman erklärte in einem Interview mit dem Magazin Fortune, im Lichte der aktuellen Vorfälle bei Künstlicher Intelligenz wäre der Zeitpunkt für einen Börsengang schlecht. In diesem Jahr werde der Konzern den Schritt an die Börse nicht gehen. OpenAIs seit Langem vorbereiteter Börsengang war in der Branche als Riesen-Event erwartet worden und dürfte dem Konzern nicht nur Dutzende Milliarden Dollar einbringen, sondern auch eine sehr hohe Bewertung.

Bei Anthropic haben die Sicherheitsbedenken die Börsenpläne allerdings bisher nicht gebremst. Insidern zufolge will das Unternehmen frühestens Mitte Oktober mit der Vermarktung seines Börsengangs beginnen und diesen noch vor den US-Kongresswahlen im November abschließen.