Ruf nach KI-Pause: Börsen reagieren negativ, Trump winkt ab, Lob von Forschern

Nachdem sich führende KI-Unternehmen aus den USA am Wochenende dafür ausgesprochen haben, das Entwicklungstempo bei besonders leistungsfähigen KI-Modellen zu drosseln, haben die ersten Börsen in Asien mit Kursverlusten reagiert. Gleichzeitig gibt es aus der Wissenschaft Zustimmung für das Ansinnen – und Kritik von US-Präsident Donald Trump. Derweil ist weiterhin vollkommen unklar, ob dem Plädoyer konkrete Maßnahmen folgen. Anthropic-Chef Dario Amodei hatte zuvor eine koordinierte Pause vorgeschlagen, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen und einzudämmen. Binnen Stunden bekam er dafür Zuspruch von Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk.

Ganz unterschiedliche Reaktionen

Am Montag reagierten Aktien von Unternehmen mit Bezug zur KI-Industrie mit teils deutlichen Verlusten, berichtet die Nachrichtenagentur Reuters. So ging es für den OpenAI-Investor SoftBank um zwischenzeitlich mehr als 13 Prozent nach unten, der Kurs des Speicherherstellers Kioxia sackte vorübergehend um fast 10 Prozent ab. SK Hynix, Samsung und andere Konzerne verloren jeweils mehrere Prozent. Vor dem Verkaufsdruck war als Reaktion auf die Kommentare vom Wochenende von mindestens einem einflussreichen Analysten gewarnt worden, schreibt die Nachrichtenagentur noch. Sie verweist aber auch darauf, dass auch Entwicklungen im Nahen Osten die Kurse drücken dürften. Dort gibt es Sorgen um die nächste wichtige Handelsroute im Roten Meer.

Vorher hatte US-Präsident Donald Trump die Sorgen aus der Branche heruntergespielt. Die USA seien China bei KI weit voraus und führend in der Welt, weil der Erfolg bei KI essenziell für die Zukunft sei, sagte Trump laut der Nachrichtenagentur dpa am Rande seines Besuchs in Irland. Man könne die Technologie mit Leitplanken versehen. Zugleich sprach Trump von „negativen Kräften“, die sich zu dem Thema äußerten. Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit demnach ein „lösbares Problem“ – bewertete die Vorschläge von Amodei aber positiv. Sie seien „ein guter Schritt vorwärts“, sagte er beim Sender Fox News. Die oppositionellen Demokraten rief Ex-Präsident Barack Obama auf, politische Strategien zu entwickeln, um diesem Thema Priorität einzuräumen.

KI-Forscher aus Deutschland haben den Vorstoß von Amodei gegenüber dem Science Media Center begrüßt. „Besonders die Konstruktion von unabhängigen Kontrollinstanzen und externen Prüfstellen finde ich sinnvoll“, meint Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme. „Die Richtung stimmt“, aber an der Umsetzung habe er Zweifel, ergänzt Thilo Hagendorff von der Universität Stuttgart.

Immerhin knüpfe Amodei sein Konzept an die Bedingung, dass die USA ihren Vorsprung vor China ausbauen: „Ein nationales KI-Wettrüsten und eine koordinierte Verlangsamung passen aber schlecht zusammen.“ Zudem gebe es viel zu wenig KI-Sicherheitsforschung. Kritik übt Philipp Hennig von der Eberhard Karls Universität Tübingen an der Geheimniskrämerei: „Wenn Amodei [...] wirklich Sorgen um die Sicherheit des Internets, der globalen Wirtschaft oder gar des Menschheitsüberlebens hat, dann stehen ihm konkretere Optionen offen als die nebulöse Bitte um ‚demokratische und globale Koordination‘“, meint er.

Die Behauptung, dass es eine zehnprozentige Wahrscheinlichkeit gebe, dass KI die Menschheit auslöschen könnte, sehen die Forscher skeptisch. Geiping rät aber dazu, überzeugte Aussagen dazu aus beiden Richtungen mit Vorsicht zu genießen. Damit meint er Einschätzungen, dass es sich um pure Marketingtaktik der Firmen handelt und die Gefahr bei null Prozent liege, aber auch solche, die besagen, dass leistungsfähige KI zwangsläufig zur Apokalypse führt. Hagendorff ergänzt, dass die Prozentzahl scheinpräzise sei. Es gebe kein Verfahren, diese Wahrscheinlichkeit zu ermitteln, „die Zahl klingt nach Messung, ist aber ein spekulatives Bauchgefühl“. Sie war von dem Anthropic-Forscher Evan Hubinger in die Welt gesetzt worden.