«KI wird die Menschheit auslöschen» – oder gehts nur ums Geld?

• OpenAI-Chef Sam Altman und Anthropic-CEO Dario Amodei warnen öffentlich vor unkontrollierbarer KI und fordern strengere Regulierung.
• Kritikerinnen wie Algorithm-Watch-Geschäftsleiterin Angela Müller sehen dahinter vor allem PR, um Investitionen anzulocken.
• Raiffeisen-CIO Matthias Geissbühler wirft den CEOs vor, via Regulierung günstigere chinesische Open-Source-Modelle aus dem Markt drängen zu wollen.

Fünf Prozent, zehn Prozent oder gar «höchstwahrscheinlich»? Die Frage, wie wahrscheinlich es ist, dass sich die künstliche Intelligenz gegen uns Menschen dreht und ihre Erschaffer und deren Welt in den Untergang zieht, beschäftigt längst nicht mehr nur Science-Fiction-Autoren. OpenAI-Chef Sam Altman sagte Anfang Jahr über seine Branche: «KI wird höchstwahrscheinlich zum Weltuntergang führen, aber bis dahin wird es grossartige Unternehmen geben.» Aktuell sorgen vor allem Regulierungsforderungen mehrerer Tech-CEOs für viel Aufmerksamkeit.

Die Entwicklung werde immer schneller, die KI selber immer besser. «Wenn man dem freien Lauf lässt, könnte es unsere Fähigkeit übersteigen, diese Systeme zu verstehen und zu kontrollieren», sagte Anthropic-Chef Dario Amodei in seinem Aufruf zur Bremsung. Der Ex-Anthropic-Forscher Jacob Coxon fasste das so zusammen: «Es ist keineswegs übertrieben zu sagen, dass die Menschen, die sowohl an der Gründung dieser Unternehmen als auch an der Entwicklung der Technologie beteiligt sind, davon überzeugt sind, dass die Menschheit aussterben könnte.»

Die Forderung von Amodei nach gesetzlichen Schranken und einem Ausbremsen der Entwicklung sorgte für einen seltenen Moment der Einigkeit zwischen sonst zerstrittenen Rivalen. Elon Musk, CEO von SpaceXAI, und Altman stimmten den Bedenken zu und schlossen sich den Forderungen an. Doch ist das tatsächliche Sorge um die Zukunft der Menschheit? Nicht alle sind davon überzeugt.

«Beste PR auf dem Investitionsmarkt»

«Wenn ein Tech-CEO erzählt, dass wir bald die Kontrolle über KI verlieren und diese die Menschheit auslöschen wird, suggeriert er damit immer auch, dass er das mächtigste Tool auf Erden in seinen Händen hält», sagt Angela Müller, Geschäftsleiterin von Algorithm Watch Schweiz, gegenüber 20 Minuten. Algorithm Watch Schweiz ist eine Nichtregierungsorganisation, die sich für den Schutz von Menschenrechten und Demokratie im Kontext von Algorithmen und KI einsetzt. «Und das ist natürlich wiederum beste PR auf dem Investitionsmarkt.»

Ähnlich verhalte es sich auch mit den Verweisen der Geschäftsmänner, dass man sich in einem existenziellen Rennen um die KI-Vorherrschaft befinde. Einer Metapher, der sich auch zunehmend Staatsvertreter bedienten und damit diverse Ausgaben rechtfertigten. «Je mächtiger die Technologie dargestellt wird, desto höhere Investitionen locken die Tech-Firmen damit an.»

Angst vor dem Börsengang?

Auch Matthias Geissbühler, CIO bei Raiffeisen Schweiz, sieht einen ähnlichen Fokus. «Der Börsengang von OpenAI wird auf unbestimmte Zeit verschoben. Als Grund nennt Sam Altman ‹Sicherheitsbedenken›. Die Realität ist wohl eine ganz andere», schreibt er in einem LinkedIn-Beitrag. «Mit den Zahlen, die OpenAI im Vorfeld des Börsengangs hätte vorlegen müssen, wäre die angestrebte 1,5- bis zwei-Billionen-Dollar-Marktkapitalisierung nicht annähernd zu erreichen gewesen.» Die Firma verdiene weiterhin kein Geld und die Umsatzentwicklung dürfe sich aufgrund der Konkurrenz und sinkender Tokenpreise abgeschwächt haben.

«Geradezu heuchlerisch» sei, dass nun Altman, Amodei und Musk von unkontrollierbaren Risiken im Zusammenhang mit KI redeten. «Das Ziel ist auch hier offensichtlich: Man will damit – via Regulierung – die viel günstigeren und effizienteren chinesischen Open-Source-Modelle aus dem Markt drängen. Nach dem Motto: ‹Wir können zentrale Sicherheitsmechanismen einbauen, Open Source ist aber unkontrollierbar.›»

Die CEOs und weiteren Warner betonen, dass es ihnen nur um Sicherheitsfragen gehe und nicht ein finanzielles Interesse dahinterstecke.

Profitabel? Ansichtssache

Die fehlende Profitabilität ist seit einiger Zeit eine Sorge der KI-Unternehmen. Solange etwa OpenAI und Anthropic nicht an der Börse sind, ist es zwar unmöglich, deren genaue Zahlen zu untersuchen, doch es gibt Hinweise. Gemäss Informationen des Wall Street Journals wuchsen die Verluste bei Altmans Firma im zweiten Quartal gar an. Von Anthropic hingegen gab es im gleichen Zeitraum wie die Untergangswarnungen von CEO Amodei positive Nachrichten – zumindest auf den ersten Blick.

Wie das Unternehmen gemäss der «Financial Times» Investoren mitteilte, erwarte man ein zweites profitables Quartal in Folge. Die Sache hat allerdings einen grossen Haken. Statt von gängigen Werten, mit denen Unternehmen ihre Profite ausweisen, spricht Anthropic explizit vom sogenannten «adjusted operational income» – auf Deutsch so viel wie ein «bereinigtes Betriebsergebnis». Dinge wie aktienbasierte Vergütungen, Trainingskosten und der Umsatz, der mit den Vertriebspartnern geteilt wird, wurden dabei nicht berücksichtigt. Kurz: Anthropic blickt auf ein profitables Quartal zurück – wenn man viele der grössten Kosten ignoriert.

Jan Janssen (jjn) arbeitet seit 2023 für 20 Minuten. Zuerst im Ressort Zürich und seit 2025 im Ressort News.