KI-Firmenchefs warnen UN-Sicherheitsrat vor Gefahren

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz haben die Chefs der größten US-amerikanischen KI-Firmen erstmals vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt. Der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sagte vor dem Gremium in New York:

Es gebe besonders zwei große Risiken: den Verlust der Kontrolle über KI und die "Konzentration von zu viel Macht in zu wenigen Händen".

"Größte Sicherheitsherausforderung" für Welt

KI sei "die größte Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist", sagte der per Video zugeschaltete Chef des KI-Unternehmens Anthropic, Dario Amodei.

Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat während der Generaldebatte - der wichtigsten UN-Woche des Jahres.

• OpenAI-KI hackt australisches Regierungsportal

OpenAI-Chef: Entwicklung verlangsamen

Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war.

• Warum das Silicon Valley vor der eigenen Technologie warnt

Daraufhin hatten sich große amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen - was Kritiker schon lange gefordert hatten.

OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. "Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun." Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: "Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee."

Anthropic-Chef fordert globale Maßnahmen

Anthropic-Chef Amodei forderte globale kooperative Maßnahmen zur Eindämmung der Risiken - unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen.

• Internationale KI-Kontrollbehörde: Wie realistisch ist das?

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt - und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA - etwa auch im Weißen Haus von US-Präsident Donald Trump - ist der Wettlauf mit China.