Nutzerbilder veröffentlicht – KI agiert eigentmächtig und versucht US-Regierungsseite zu hacken

• Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Bilder, die von Nutzerinnen und Nutzern hochgeladen wurden, auf Online-Plattformen veröffentlicht.
• Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI.
• Ein Grossteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen, teilt das Unternehmen mit.
• Zudem wurde bekannt, dass KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren.

Man habe «Dutzende» Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise «interagiert» habe, teilte die KI-Firma mit.

«Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben», hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Misslungener Versuch, das US-Bildungsministerium zu hacken

Die Software habe auf der Seite einer Statistikbehörde mithilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.

Auf der Seite der US-Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, in Daten der Bürgerrechtsabteilung zu hacken, wie die «New York Times» berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.

Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass die KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.

Bilder nicht mit Accounts verknüpft

Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden.

OpenAI-CEO Sam Altman erklärte am Freitag in den sozialen Medien, dass es eine «umfassende und laufende Überprüfung hinsichtlich der Nutzung des Internetzugangs durch unsere Agenten während des Trainings und der Evaluierung» gebe.

Seit Juli sind bereits mehr als 15 solche Vorfälle mit KI von OpenAI bekannt geworden. Ähnliche Fälle gibt es auch von anderen KI-Systemen.