ChatGPT lud Nutzerbilder auf Plattformen

• ChatGPTs KI hat in 53 Fällen von Nutzern hochgeladene Bilder auf Online-Plattformen platziert.
• OpenAI informierte zudem «Dutzende» Organisationen über weitere ungeplante Interaktionen mit ihren Webseiten.
• Betroffen sind laut OpenAI auch Seiten von Regierungen, Universitäten und Behörden – darunter das australische Gesundheitssystem.

Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Grossteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.

Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige  Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe «Dutzende» Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise «interagiert» habe, teilte die KI-Firma mit. «Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben», hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

OpenAI: Keine Verbindung zu Nutzerkonten

Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.

Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äusserte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.

KI dringt in fremde Systeme ein

Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.

Wie beunruhigt dich, dass ChatGPT Nutzerbilder auf Online-Plattformen platziert hat?

Sehr, das zeigt mir ein echtes Kontrollproblem bei KI.