„Das Potenzial, uns alle zu töten“: Nächste dramatische Warnung von KI-Forscher

Nachdem US-Präsident Donald Trump wegen der Rufe aus der KI-Industrie nach einer Pause bei der Entwicklung der leistungsfähigsten KI-Modelle den Chef von Anthropic angegangen ist, hat auch China das Ansinnen zurückgewiesen. Ein Sprecher des Außenministeriums in Peking hat „Panikmache, Konfrontation und rücksichtslosen Wettbewerb“ kritisiert, zitiert Bloomberg. Die würden den Prozess der Regelsetzung für KI „nur behindern und niemandem nutzen“. Derweil hat der nächste KI-Forscher seinen Arbeitgeber mit einer dramatischen und öffentlich gemachten Warnung verlassen: „Ich bin fest davon überzeugt, dass KI das Potenzial hat, uns alle zu töten“, hat Bilal Chughtai auf LinkedIn geschrieben.

Warnungen aus der Forschung, unbeeindruckte Regierungen

Nach einer ähnlich dramatischen Warnung eines ehemaligen Anthropic-Forschers hatte Dario Amodei am Wochenende eine koordinierte Pause vorgeschlagen, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen und einzudämmen. Binnen Stunden bekam er dafür Zuspruch von Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk. Mit den USA und China haben die dafür wichtigsten Staaten dem aber nun widersprochen. Trump hat auf seinem sozialen Netzwerk Truth Social gar über „eine WIDERWÄRTIGE Verschwörung gegen KI und Rechenzentren“ gewütet und den Verantwortlichen gedroht.

Chughtai hat nach eigenen Angaben bei der Google-Tochter DeepMind geforscht, und zwar an KI-Sicherheit. Wie andere auch habe er dabei große Bedenken hinsichtlich der Ausrichtung der Arbeit bekommen. Er gehe ernsthaft davon aus, „dass uns die Zeit davon läuft“, unsere Vernichtung zu verhindern. Das Tempo der KI-Entwicklung sei „atemberaubend“. Als er 2022 angefangen habe, sich mit KI zu beschäftigen, „waren die Systeme noch auf amüsante Weise nutzlos“, schreibt er. Nur vier Jahre später „lösen Schwärme von OpenAIs KI-Agenten berühmte, jahrhundertealte Matheprobleme und, was noch beunruhigender ist, entziehen sich der Kontrolle“, meint er mit Bezug auf den Hack von Hugging Face: „Es wird nur noch verrückter werden.“

Der Forscher hält es demnach für möglich, dass es KI-Unternehmen in wenigen Jahren gelingen könnte, „superintelligente KI-Systeme zu bauen“, die die Fähigkeiten von Menschen in allen Feldern weit übertreffen: „Ich bin mir nicht sicher, ob diese KI-Systeme das tun werden, was wir wollen.“ Wir könnten dann die Kontrolle verlieren und die Systeme könnten „gefährliche Handlungen ausführen, die zur dauerhaften Entmachtung oder zum Tod der Menschheit führen könnten“. Verhindern ließe sich das mithilfe des sogenannten Alignments, aber das sei schwierig und ungelöst. Gleichzeitig gibt er sich in dem Text aber auch „optimistisch, dass ein sicherer Umgang mit KI möglich ist“. Dazu müsse man den manischen Wettlauf zwischen KI-Firmen vermeiden.