«Möglicherweise zu spät»: Auch Ex-Google-Ingenieur warnt vor KI

• Ex-DeepMind-Ingenieur Bilal Chughtai warnt, KI habe das Potenzial, die Menschheit zu vernichten.
• Auslöser ist ein Vorfall, bei dem ein KI-Agent von OpenAI unkontrolliert ins Internet ausbrach und Websites attackierte.
• Mehrere KI-Chefs fordern ein langsameres Entwicklungstempo – US-Präsident Trump weist die Bedenken zurück.

Ein ehemaliger Mitarbeiter der Google-Tochter DeepMind hat vor den Gefahren von Künstlicher Intelligenz (KI) gewarnt. «Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und dass es möglicherweise zu spät ist, dies zu verhindern», erklärte der Ingenieur Bilal Chughtai, der DeepMind im Juli verlassen hatte, am Dienstag. Zuletzt hatten führende Tech-Unternehmer dazu aufgerufen, wegen der Gefahren der neuen Technologie ihre Entwicklung zu verlangsamen.

Chughtai erwähnte in seiner Stellungnahme einen Zwischenfall im Juli, bei dem ein KI-Agent von OpenAI spontan aus seiner vorgegebenen Umwelt ausgebrochen war, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. Für ihn habe dieser Vorfall gezeigt, dass KI sich inzwischen der Kontrolle ihrer Entwickler entziehen «und gefährliche Handlungen ausführen kann, die zu einem endgültigen Verlust der Kontrolle oder zum Ende der Menschheit führen könnten».

Der Ingenieur, der bei DeepMind in den Bereichen Sicherheit und Alignment, der Ausrichtung der Modelle an menschlichen Werten, gearbeitet hatte, warnte, es sehe derzeit nicht danach aus, «dass wir das Alignment rechtzeitig in den Griff bekommen». «Die Fähigkeiten der fortschrittlichsten KI verbessern sich viel schneller als unser Verständnis von Alignment», erklärte er.

Coxon: «KI-Riesen spielen mit unserem Leben»

Anfang vergangener Woche hatte der KI-Experte Jacob Coxon, der zuerst bei OpenAI und dann bei Anthropic gearbeitet und beide Unternehmen verlassen hatte, beiden öffentlich laxe Sicherheitsstandards vorgeworfen. Die beiden KI-Riesen spielten damit «mit unserem Leben», warnte ihr Ex-Mitarbeiter.

Mehr zu diesem Thema

Am Samstag rief dann der Chef von Anthropic, Dario Amodei, in einem Essay auf seiner Website dazu auf, das Tempo zu «verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern». Die dadurch «gewonnene Zeit» solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.

Altman und Musk pflichten Anthropic-Chef bei

Amodei bekam Unterstützung vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Tech-Unternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis.

US-Präsident Donald Trump wies die Sicherheitsbedenken hingegen zurück. Es gebe eine «kranke Verschwörung» gegen KI und die dafür nötigen Rechenzentren, schrieb Trump am Montag in seinem Onlinedienst Truth Social. KI-Skeptiker verunglimpfte Trump unter anderem als «Verschwörungstheoretiker» und «Verräter». «Dass KI die Welt übernimmt, die Menschheit vernichtet und all diese anderen schlimmen Dinge tut, ist ein Schwindel», schrieb er.

Wie stehst du zu den Warnungen vor ausser Kontrolle geratener KI?

Ich nehme das sehr ernst, die Risiken werden unterschätzt.

Etwas gesehen, etwas gehört?

Schick uns deinen News-Input!

Speichere unseren Kontakt im Messenger deiner Wahl und sende spannende Videos, Fotos und Dokumente direkt an die 20-Minuten-Redaktion. Sendest du uns Fotos oder Videos, die zu einem neuen Beitrag führen, erhältst du eines von vier Geschenken. Mehr Details findest du hier.

Handelt es sich um einen Unfall oder ein anderes Unglück, dann alarmiere bitte zuerst die Rettungskräfte.

Bitte beachte, dass die Redaktion im Einklang mit den publizistischen Leitlinien ausschliesslich Bilder akzeptiert, die nicht mithilfe von künstlicher Intelligenz erstellt wurden. Eine Ausnahme bildet lediglich die Illustration von Beiträgen zum Thema KI (z. B. KI-Challenges).

Die Verwendung deiner Beiträge durch 20 Minuten ist in unseren AGB geregelt: 20min.ch/agb

Reto Bollmann (bre), Jahrgang 1991, verstärkt seit Ende 2021 als Redaktor den Newsdesk von 20 Minuten. Eine Vorliebe hat er für politische, wissenschaftliche und geschichtliche Themen.