OpenAI reconnaît que ses outils ont mis en ligne des images d’utilisateurs de ChatGPT

OpenAI a reconnu vendredi que ses outils d'intelligence artificielle (IA) avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes, un nouvel incident qui touche cette fois des données de ses propres utilisateurs.

Le géant de l'IA de San Francisco a aussi indiqué vendredi, confirmant des informations du New York Times, que ses outils avaient consulté des sites d'agences fédérales américaines, en affirmant n'y avoir récupéré que des informations publiques.

Les 53 images, elles, ont été publiées par erreur sur des sites d'hébergement, à des adresses qui n'étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait. Elles provenaient de comptes ayant autorisé l'utilisation de leurs données pour améliorer les modèles d'OpenAI.

Ces données étaient passées avant usage par un filtre de confidentialité, et l'entreprise affirme ne plus pouvoir les rattacher à l'utilisateur d'origine. La société ne détaille pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l'AFP, elle n'a pas donné de précisions.

Selon OpenAI, des agents utilisés pour ses recherches ont transmis à des services extérieurs des données d'entraînement, qui pour la plupart ne provenaient pas d'utilisateurs. Ces transmissions ont eu lieu avant qu'elle ne renforce la sécurité de son environnement de recherche, en août. Le groupe dit passer au crible l'activité passée de ses agents, un examen qui "prendra des mois".