Warum das Silicon Valley vor der eigenen Technologie warnt

Die Zukunft im Terminator-Modus: Maschinen, die Menschen töten. Was lange nach Science-Fiction klang, wird inzwischen von einigen der einflussreichsten Köpfe der KI-Branche als reale Gefahr beschrieben. So schätzt der Sicherheitsforscher Evan Hubinger von Anthropic das Risiko, dass Künstliche Intelligenz die Menschheit innerhalb der kommenden zehn Jahre auslöscht, auf mehr als zehn Prozent. OpenAI-Chef Sam Altman zieht Parallelen zwischen der Entwicklung Künstlicher Intelligenz und der Erfindung der Atombombe.

Doch warum kommen die Warnungen vor KI ausgerechnet aus dem Umfeld jener Unternehmen, die diese Technologie selbst entwickeln?

KI-Konzerne stellen Gefahren in den Fokus

Der US-amerikanische Informatikprofessor Cal Newport von der Georgetown University hat dafür den provokanten Begriff "Doom Trolling" geprägt. Damit ist ein Phänomen gemeint, bei dem Tech-Unternehmen aus dem Silicon Valley Kunden und Investoren davon überzeugen wollen, dass ihre Produkte eines Tages gewaltige Schäden oder gar Zerstörung anrichten könnten.

• KI: Ein Hochrisiko-Experiment, dessen Ausgang niemand kennt

Auf den ersten Blick wirkt das paradox. Normalerweise werben Unternehmen schließlich mit Sicherheit, Nutzen und Fortschritt. KI-Konzerne warnen nun hingegen vor den Gefahren ihrer eigenen Technologie. Für Newport ist das jedoch kein Widerspruch, sondern eine Kommunikationsstrategie.

"Das lässt die eigene Technologie bedeutender erscheinen. So spielt es eine kleinere Rolle, wie viel Umsatz das Unternehmen gerade macht. Angesichts des Glaubens, dass hier das mächtigste Werkzeug entsteht, das je gebaut wurde", so Newport in der US-amerikanischen Sendung "Amanpour & Company" des Senders PBS.

Expertin: Warnungen können gezielte PR sein

Die Warnungen vor existentiellen Risiken durch KI kommen zu einem Zeitpunkt, an dem die Tech-Riesen Anthropic und OpenAI einen Börsengang anstreben. Durch das "Doom Trolling" entsteht der Eindruck, dass diese Unternehmen an einer Technologie arbeiten, die beinahe wie eine Naturgewalt sei. "Das kommt gerade bei Investoren gut an", sagt Angela Müller, die die Schweizer NGO AlgorithmWatch leitet.

• Forscher stoppt Späh-Software von Anthropic

Kommen die KI-Firmen ihrer Verantwortung nicht nach?

Auslöser für die jüngste Diskussion waren Berichte über KI-Agenten von OpenAI, die in Sicherheitstests eigenständiger handelten, als erwartet und vorgegebene Beschränkungen umgingen. Für manche Forscher sind solche Vorfälle Hinweise auf künftige unkontrollierbare Risiken. Andere zeigen vor allem, wie groß die Kluft zwischen realen Sicherheitsproblemen und Weltuntergangsszenarien weiterhin ist.

• "Katastrophaler Schaden" möglich: Was ein KI-CEO nun fordert

KI-Warnungen könnten auch Konkurrenz fernhalten

Während die Öffentlichkeit über Superintelligenzen und Killer-KI diskutiert, gerieten auch kartellrechtliche Fragen in den Hintergrund.

So warnen Anthropic und OpenAI nicht nur vor den existenziellen Gefahren von KI, sondern fordern derzeit zugleich eine stärkere staatliche Regulierung. Dario Amodei, der Chef des KI-Unternehmens Anthropic, hatte beispielsweise gefordert, die KI-Entwicklung zu verlangsamen, um Sicherheitsmaßnahmen gewährleisten zu können.

Je komplexer die Regulierungen sind, desto schwieriger wird es für kleinere Anbieter, mitzuhalten. Milliardenkonzerne verfügen über die Ressourcen, um neue Vorgaben umzusetzen. Start-ups oft nicht.

Angst vor Apokalypse statt Debatte um Verantwortung

Mit den Warnungen vor existentiellen Risiken der KI verschiebt sich die Debatte. Anstatt über die Monopolstellung weniger Technologiekonzerne oder die konkreten Folgen von KI für die Arbeitswelt, die Medien oder die Demokratie zu sprechen, richtet sich der Blick auf eine ferne Apokalypse.

"Ich persönlich habe weniger Angst vor der KI", sagt Angela Müller von AlgorithmWatch. "Gefährlicher für die Gesellschaft ist die Machtkonzentration einiger weniger Unternehmen. Das sind Konzerne, die nur begrenzt rechenschaftspflichtig sind."

Trump lehnt strengere Regeln für KI ab

Auf einer Wirtschaftskonferenz in Los Angeles meldete sich Donald Trump Anfang der Woche zu Wort, zugeschaltet über das Smartphone von Nvidia-Chef Jensen Huang. Trump lehnt strengere Regeln für KI ab. Nicht Roboter würden die Macht übernehmen, sondern diejenigen, die das Rennen um die Künstliche Intelligenz gewinnen.

• Trump sieht "Kranke Verschwörung" gegen KI

Während die Welt vor Killer-KI bangt, gerät eine viel grundlegendere Frage aus dem Blick: Wie lässt sich KI so gestalten und regulieren, dass dabei nicht die Marktmacht weniger Tech-Konzerne maßgeblich ist, sondern die Interessen all jener, deren Leben sich durch die Folgen von KI grundlegend verändert.

Cornelius Janzen ist ZDF-Redakteur und Reporter für 3sat Kulturzeit.

Über das Thema berichtete unter anderem das ZDF-Morgenmagazin am 14.09.2026 ab 05:30 Uhr sowie das heute journal am 15.09.2026 ab 21:45 Uhr.