Nach lauten Warnungen wegen Gefahren für die Menschheit: KI-Sicherheits-Krise eskaliert – OpenAI sagt Börsengang ab

Nach lauten Warnungen wegen Gefahren für die Menschheit

KI-Sicherheits-Krise eskaliert – OpenAI sagt Börsengang ab

KI-Agenten, die sich verselbstständigen, und Forscher, die vor dem Ende der Menschheit warnen: Die Alarmzeichen rund um künstliche Intelligenz mehren sich. Nun zieht OpenAI-Chef Sam Altman die Notbremse und verschiebt den Milliarden-Börsengang.

Publiziert: vor 15 Minuten

Aktualisiert: vor 12 Minuten

Darum gehts

KI-generiert, redaktionell geprüft

• OpenAI verschiebt geplanten Börsengang wegen Sicherheitsbedenken
• Mit einem geschätztem Marktwert von 1 Billion Dollar einer der grössten Börsengänge der Geschichte
• Prioritäten liegen laut OpenAI-CEO Sam Altman aktuell beim Thema Sicherheit

Mischa StünziRedaktor Wirtschaft

Künstliche Intelligenz (KI) verändert unseren Alltag im Eiltempo. Doch verliert die Menschheit schon bald die Kontrolle über die Technologie? Davor warnen derzeit führende Köpfe der Branche.

«Wir müssen das Tempo verlangsamen»

Am Wochenende forderte Dario Amodei (43), Chef der KI-Schmiede Anthropic. In einem aufsehenerregenden Essay: «Wir müssen die Geschwindigkeit verlangsamen, mit der wir die Fähigkeiten von KI-Modellen verbessern.»

Zwar glaubt Amodei weiterhin an den Nutzen von KI – etwa bei der Heilung von Krankheiten und beim Wirtschaftswachstum. Aber er sieht auch «ernsthafte Risiken der mächtigen Technologie». Besorgt zeigt er sich vor allem darüber, dass KIs beginnen, sich selbst weiterzuentwickeln. «Wenn man ihnen freien Lauf lässt, könnten sie unsere Fähigkeit übersteigen, die Systeme zu verstehen und zu kontrollieren.»

Sorge macht ihm auch ein Vorfall, bei dem KI-Agenten neulich selbständig Hackerangriffe ausgeführt haben. Zwar sei dabei niemand zu Schaden gekommen. Wenn die technologische Entwicklung aber im gleichen Tempo weitergeht, könnten KI-Agenten in sechs bis zwölf Monaten in der Lage sein, bei einer Attacke das gesamte Internet zu übernehmen, so Amodei.

Immer mehr Fachleute warnen

Amodei steht mit seinem Warnruf nicht allein da: OpenAI-Chef Sam Altman (41) und Tech-Tausendsassa Elon Musk (55) stimmten den Bedenken auf der Social-Media-Plattform X zu. Musk leitet nicht nur den Autobauer Tesla, sondern auch das Raumfahrt- und KI-Unternehmen SpaceX. Mit Altman ging Amodei einst im Streit über Regulierungen und Sicherheitsbedenken auseinander.

Amodei warnt in seinem Essay vor Schäden in der Höhe von Hunderten von Milliarden Dollar. Doch es geht bei der Debatte nicht nur um den Verlust von Geld und Millionen von Jobs. Laut Amodeis ehemaligem Angestellten Jacob Coxon (27) geht um nicht weniger als die Existenz der Menschheit: «Diejenigen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts auslöschen könnte», postete der KI-Experte und ehemalige Anthropic- und OpenAI-Mitarbeiter auf X.

Er erklärte seine dystopische Prognose gegenüber dem US-Fernsehsender MS Now damit, dass KI bei Hackerangriffen kritische Infrastrukturen lahmlegen oder zur Entwicklung von Biowaffen eingesetzt werden könnte.

Coxon ist nicht ein einsamer Rufer in der Wüste. Evan Hubinger, Chef-Sicherheitsforscher bei Anthropic, gab ihm wenig später in einem eigenen X-Post recht: Er schätze die Wahrscheinlichkeit, dass KI alle Menschen töten könnte, auf über zehn Prozent. Anthropic gebe zwar «sein Bestes», um das zu verhindern. Eine Lösung, wie man eine superintelligente KI verlässlich kontrolliert, gebe es aber schlicht noch nicht.

Über 1300 Forscherinnen und Programmierer von KI-Unternehmen haben mittlerweile eine Petition unterschrieben, in der sie die US-Regierung auffordern, die Branche zu regulieren. Trump liess die Branche bisher bewusst an der langen Leine.

Raffen sich die KI-Riesen zusammen?

OpenAI zieht Konsequenzen wegen der Sicherheitsbedenken: Der US-Konzern hinter dem populären ChatGPT legt seinen lang erwarteten Börsengang auf Eis. OpenAI-Chef Altman stellte im Wirtschaftsmagazin «Fortune» klar, dass ein Gang an die Börse im Jahr 2026 «nicht angebracht» sei. Mit einem geschätzten Marktwert von einer Billion Dollar wäre OpenAI einer der grössten Börsengänge der Geschichte gewesen.

Der Schritt kommt zwar nicht völlig überraschend. Altman hat wiederholt gesagt, der Schritt habe nicht oberste Priorität für den Konzern. Die Begründung sorgt dennoch für Aufregung: Laut Altman gibt es aktuell extrem viel zu tun – vor allem bei der Sicherheit.

Aussichtslos ist die Sicherheitslage aber nicht. Altman deutete im Interview an, dass die führenden KI-Giganten womöglich kurz vor einer gemeinsamen Abmachung stehen, um das Entwicklungstempo zu drosseln und sich auf globale Sicherheitsstandards zu einigen.

Dass der KI-Hype erste Kratzer bekommt, zeigt sich auch an der Börse: Finanzmarkt-Legende Michael Burry (55) wettet derzeit gegen die Aktien grosser KI-Profiteure wie Nvidia, Oracle und Palantir. Für die Branche dürfte das aber das kleinere Problem sein.

Externe Inhalte

Möchtest du diesen und weitere externe Beiträge (z.B. Instagram, X und anderen Plattformen) sehen? Wenn du zustimmst, können Cookies gesetzt und Daten an externe Anbieter übermittelt werden. Dies ermöglicht die Anzeige externer Inhalte sowie von personalisierter Werbung. Deine Entscheidung gilt für die gesamte App und ist jederzeit in den Einstellungen widerrufbar.