«Könnten alle sterben»: KI-Forscher kündigte Job – nun spricht er

• Der britische KI-Forscher Jacob Coxon (27) hat bei der KI-Firma Anthropic gekündigt und warnt in der BBC vor einem baldigen Aussterben der Menschheit.
• Er glaubt, ein Szenario mit KI-Bots, die das Internet übernehmen, sei in sechs Monaten bis einem Jahr realistisch.
• Nvidia-Chef Jensen Huang bezeichnet solche Warnungen als «kompletten Unsinn».

«Wenn wir das derzeitige Tempo nicht drosseln, besteht eine grosse Wahrscheinlichkeit, dass wir alle in naher Zukunft sterben könnten», sagt KI-Forscher Jacob Coxon in der BBC-Sendung «Sunday with Laura Kuenssberg». Der 27-jährige Brite hat vor wenigen Tagen bei der KI-Firma Anthropic gekündigt – sein Rücktrittspost wurde millionenfach geteilt.

Wer an dieser Technologie arbeite, sei «ernsthaft verängstigt», sagt Coxon, der zuvor bei OpenAI tätig war. «Die Leute in diesen Firmen meinen es völlig ernst, wenn sie nach Regulierung verlangen. Sie fühlen sich in einem Rennen gefangen – und haben Angst vor dessen Ausgang.» Ein Abbremsen müsse allerdings mit China koordiniert werden, sonst drohe das Rennen einfach international weiterzugehen.

Mehr zu diesem Thema

Einige Kollegen wollen Land kaufen

Seine Kolleginnen und Kollegen befürchteten, dass es schon in den nächsten zwei Jahren gefährlich werden könnte. Manche überlegten sich, «irgendwo Land zu kaufen, weil sie solche Angst vor der Instabilität durch den rasanten KI-Fortschritt haben». Ein Szenario, das auch Anthropic-Chef Dario Amodei beschreibt – ein Schwarm von Bots, der wie ein Supercomputer das Internet übernimmt –, hält Coxon in sechs Monaten bis einem Jahr für realistisch. Ganz pessimistisch ist er aber nicht: Die Forschenden wollten die guten Seiten der Technologie sehen, etwa das Heilen von Krankheiten.

Wie ernst nimmst du die Warnung vor einer gefährlichen KI-Entwicklung?

Sehr ernst, ich finde, die Risiken werden unterschätzt.

«Wie den Klimaanlagen-Techniker zum Klimawandel fragen»

Nicht alle teilen die Warnungen. Clement Delangue, Chef der KI-Plattform Hugging Face, schrieb auf X: «Sorry, aber Jacob zum KI-Aussterberisiko zu befragen, ist wie den Klimaanlagen-Techniker zum Klimawandel zu befragen.» Nvidia-Chef Jensen Huang wies Coxons Aussagen an einer Konferenz der Investmentbank Goldman Sachs als unwahr zurück. Er hatte schon früher gesagt, die Idee, KI bedeute das Ende der Menschheit, sei «kompletter Unsinn».

Andere Kritiker vermuten Kalkül: Anthropic und OpenAI bereiten laut Berichten Rekord-Börsengänge vor – die Warnungen könnten also auch Hype erzeugen. Zudem wird Anthropic vorgeworfen, mit dem Ruf nach Regulierung die Konkurrenz ausbremsen zu wollen.

Anthropic selbst teilte der BBC mit, man sei immer transparent gewesen, dass KI enorme Vorteile und beispiellose Risiken bringe. Die eigenen Modelle hätten «einige der stärksten Schutzmechanismen der Branche».

Abonniere den Wissen-Push!

Abonniere in der 20-Minuten-App die Benachrichtigungen des Wissen-Kanals. Du wirst über bahnbrechende Erkenntnisse und Entdeckungen aus der Forschung, Erklärungen zu aktuellen Ereignissen und kuriose Nachrichten aus der weiten Welt der Wissenschaft informiert. Auch erhältst du Antworten auf Alltagsfragen und Tipps für ein besseres Leben.

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten auf «Profil», dann aufs «Einstellungen»-Zahnrad und schliesslich auf «Push-Benachrichtigungen». Wähle hier die gewünschten Themen aus.

Konstantin Furrer (fur) arbeitet seit 2017 für 20 Minuten. Seit 2022 Newsdesk-Leiter, daneben Blattmacher und Mitglied der Redaktionsleitung.