Versuchter Hackerangriff – KI greift eigenmächtig auf US-Regierungsseiten zu

• OpenAI bestätigte Berichte, wonach eine KI auf US-Regierungsseiten zugegriffen habe. Sie sei auf Seiten der Statistikbehörde und der Börsenaufsicht gedrungen – mit Hilfe eines Zugangsschlüssels, den die KI im Internet gefunden habe.
• Laut der «New York Times» und dem KI-Forschungsinstitut Transluce hat eine KI ferner erfolglos versucht, eine Website des US-Bildungsministeriums zu hacken.
• Auch User sind von Kapriolen der KI betroffen: Ein Programm des ChatGPT-Entwicklers OpenAI hat in 53 Fällen Bilder von Nutzerinnen und Nutzern ins Internet gestellt.
• Ein Grossteil der Bilder sei wieder entfernt worden, und man arbeite mit den Plattformen daran, auch den Rest zu löschen, teilt das Unternehmen mit.

Man habe «Dutzende» Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise «interagiert» habe, teilte die KI-Firma mit.

«Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben», hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Misslungener Versuch, das US-Bildungsministerium zu hacken

Die Software habe auf der Seite einer Statistikbehörde mithilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.

Auf der Seite der US-Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, in Daten der Bürgerrechtsabteilung zu hacken, wie die «New York Times» berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.

Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass die KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.

Bilder nicht mit Accounts verknüpft

Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden.

OpenAI-CEO Sam Altman erklärte am Freitag in den sozialen Medien, dass es eine «umfassende und laufende Überprüfung hinsichtlich der Nutzung des Internetzugangs durch unsere Agenten während des Trainings und der Evaluierung» gebe.

Seit Juli sind bereits mehr als 15 solche Vorfälle mit KI von OpenAI bekannt geworden. Ähnliche Fälle gibt es auch von anderen KI-Systemen.