OpenAI informiert „dutzende“ Institutionen über unbefugte KI-Interaktionen

Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Es handelte sich um autonom handelnde KI-Agente, welche OpenAI in einer Forschungsumgebung betrieb. Die Links zu den Bildern seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.

OpenAI verwies in einer Mitteilung darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. Wie das technisch funktionieren soll, wenn etwa das Gesicht eines Nutzers auf einem Bild zu sehen ist, bleibt OpenAI schuldig. Auch darüber, was auf den Bildern zu sehen war, gibt es keine Informationen. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.

Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden, berichtet die New York Times. Außerdem hätte die KI-Software vergeblich versucht, an Daten der Bürgerrechtsabteilung des US-Bildungsministeriums zu kommen. Die Zeitung berief sich auf mehrere Sicherheitsforscher und Personen, die mit den Vorfällen vertraut waren. Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.

„Dutzende“ betroffene Organisationen

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. OpenAI gab bekannt, dass seine Agenten auf Webseiten von Regierungen, Universitäten, Behörden und anderen Institutionen aktiv waren. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. OpenAI überlasse es ihnen, die Vorfälle öffentlich zu machen.

Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face.

Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.

Trump will nicht bremsen

Zuletzt hatten sich in den USA führende KI-Firmen wie Anthropic und OpenAI nach eigenständigen Hacking-Attacken durch ihre KIs dafür ausgesprochen, die Entwicklung von KI abzubremsen. US-Präsident Donald Trump betont unterdessen, dass er trotz Warnungen vor existenziellen Risiken der Technologie auf eine beschleunigte KI-Entwicklung in den USA setzen will.