KI-Bosse in den USA wollen runter vom Tempo

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen.

Nach den Hacking-Angriffen sei er besorgt, dass schon in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei.

Pause machen - aus Sicherheitsgründen

Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic - ohne auf andere zu warten - in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.

Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: "Dario hat recht." Der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, äußerte sich ähnlich. Was Amodei vorschlage, sei eine gute Idee, so Altman, und er kündigte an, dass sein Unternehmen ähnlich vorgehen werde. Auch er sei der Ansicht, dass man das Tempo bei der Entwicklung von KI-Modellen verlangsamen müsse.

Abstand halten zur Börse

Altman fügte hinzu, dass der mit Spannung erwartete Börsengang von OpenAI in diesem Jahr vermutlich nicht mehr stattfinden werde. Mit Blick auf die aktuelle Debatte um die Gefahren von KI sagte Altman: "Man wäre schlecht beraten, genau jetzt an die Börse zu gehen."

Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus - und sprachen sich zudem untereinander ab. 

Wenn die Systeme nicht mehr verstanden werden...

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten "katastrophalen Schaden" hätte anrichten können, betonte Dario Amodei, Chef des KI-Unternehmens Anthropic. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin - und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren könnten, warnte er.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt - und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA - etwa auch im Weißen Haus von Präsident Donald Trump - ist der Wettlauf mit China. 

Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht Vollversionen nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.

Ist die gesamte Menschheit bedroht?

Die Debatte um KI war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben", erklärte Jacob Coxon. Anthropic-Forscher Evan Hubinger bestätigte wenig später Coxons Sorgen.

Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.

In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI angewiesen sind.

haz/ack (dpa, rtr, afp)

USA: Widerstand gegen KI-Rechenzentren