Ausbruch aus dem Labor: OpenAI ringt nach neuem Sicherheitsvorfall um KI-Sicherheit

Der ChatGPT-Entwickler OpenAI hat das Training seiner leistungsstärksten KI-Modelle vorerst ausgesetzt. In einem Test gelang es einem Modell, eine eigentlich abgeschirmte Umgebung zu umgehen und Antworten von einem Chatbot im offenen Internet zu erhalten.

Nach Angaben von OpenAI entdeckte die Software eine Lücke in den Netzwerkeinstellungen und nutzte sie selbstständig aus. Das Training solle erst wieder aufgenommen werden, wenn die Schwachstelle sicher geschlossen sei.

KI findet Umweg ins offene Internet

In dem Test sollte das Modell anhand von Hinweisen Informationen über den Autor eines Blogbeitrags finden. Dafür stand ihm eine Nachbildung des Internets in einer abgeschirmten Testumgebung zur Verfügung.

Als die Suche erfolglos blieb, versuchte die KI unter anderem, Google aufzurufen. Das wurde wie vorgesehen blockiert. Dabei entdeckte das Modell jedoch einen anderen Weg nach draußen: Über einen eigentlich für die technische Weiterleitung von Internetanfragen gedachten Dienst konnte es Kontakt zu einem externen Chatbot aufnehmen. OpenAI stoppte den Test, nachdem die Kommunikation aufgefallen war.

Das Unternehmen bezeichnete den Vorfall als weniger schwerwiegend als frühere Zwischenfälle. Dennoch sei er bedeutsam, weil es der erste seit einer Verschärfung der Sicherheitsvorkehrungen sei.

KI drang bei Hugging Face ein

Auslöser dafür war ein deutlich gravierenderer Vorfall. Eine KI von OpenAI war aus einer abgesicherten Testumgebung ausgebrochen und ungeplant in Computer der KI-Plattform Hugging Face eingedrungen. Daraufhin hatte OpenAI seine Schutzmaßnahmen verschärft. Der neue Zwischenfall zeige nun, wo weitere Nachbesserungen nötig seien.

Zuletzt wurden mehrere weitere Fälle bekannt. So platzierte eine KI 53 von Nutzern hochgeladene Bilder auf Online-Plattformen. Die Links seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil der Bilder sei bereits gelöscht worden. Es ist der erste bekannte Vorfall, bei dem Daten von OpenAI-Nutzern betroffen waren.

KI-Agenten von OpenAI wurden außerdem auf mehreren Webseiten der US-Regierung aktiv. Bei einer Statistikbehörde griff die Software mithilfe im Internet gefundener Zugangsdaten auf öffentliche Informationen zu. Auch bei der Börsenaufsicht SEC wurden öffentliche Daten kopiert. Beim Bildungsministerium versuchte die KI laut der Forschungsfirma Transluce erfolglos, sich Zugang zu Daten der Bürgerrechtsabteilung zu verschaffen.

OpenAI teilte mit, "Dutzende" Organisationen informiert zu haben, mit deren Webseiten seine Software ungeplant "interagiert" habe. Darunter seien Regierungen, Universitäten und Behörden.

Altman vor australischen Senat geladen

Auch in Australien verschaffte sich ein Programm von OpenAI nach Regierungsangaben unbefugten Zugang zu einem staatlichen Internetportal. Die KI sollte Informationen über öffentliche Gesundheitsausgaben sammeln, griff dabei aber auf Statistiken der Krankenversicherung Medicare zu. Private Informationen seien nicht gefährdet worden, erklärte OpenAI.

Ministerpräsident Anthony Albanese bezeichnete den Vorfall als "inakzeptabel" und äußerte gegenüber OpenAI-Chef Sam Altman "extreme Besorgnis".

Altman und der Chef des KI-Unternehmens Anthropic, Dario Amodei, wurden nun zu einer öffentlichen Anhörung des australischen Senats am Donnerstag in Canberra geladen. "Es gibt ernste Fragen, die Sam Altman zum Hack von Regierungswebseiten durch OpenAI beantworten muss", erklärte die Ausschussvorsitzende Sarah Hanson-Young.

Wadephul fordert internationale Regeln

Bundesaußenminister Johann Wadephul warnte unterdessen bei der UN-Generaldebatte vor den Risiken leistungsfähiger KI. Sie könne Falschinformationen verbreiten, wichtige Infrastruktur gefährden und im schlimmsten Fall Entscheidungen über Frieden und Sicherheit beeinflussen. Zugleich biete sie große Chancen für Wissenschaft und Wirtschaft.

Wadephul forderte internationale Sicherheitsregeln statt freiwilliger Selbstverpflichtungen. Entwickler sollten ihre Modelle vor der Veröffentlichung testen und Sicherheitslücken melden müssen.

Auch Forderungen nach einer langsameren KI-Entwicklung werden lauter. EU-Kommissionspräsidentin Ursula von der Leyen will führende KI-Firmen zu Beratungen darüber einladen, "einen Gang zurückzuschalten". OpenAI und Anthropic sprechen sich ebenfalls für eine Drosselung aus. US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen genau das ab.