OpenAI reconnaît que ses outils ont mis en ligne par erreur des images d’utilisateurs de ChatGPT
Suivre Sudinfo sur Google
OpenAI a reconnu vendredi que ses outils d’intelligence artificielle (IA) avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes, un nouvel incident qui touche cette fois des données de ses propres utilisateurs.
Le géant de l’IA de San Francisco a aussi indiqué vendredi, confirmant des informations du New York Times, que ses outils avaient consulté des sites d’agences fédérales américaines, en affirmant n’y avoir récupéré que des informations publiques.
Les 53 images, elles, ont été publiées par erreur sur des sites d’hébergement, à des adresses qui n’étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait.
Elles provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité, et l’entreprise affirme ne plus pouvoir les rattacher à l’utilisateur d’origine.
OpenAI ne détaille pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l’AFP, l’entreprise n’a pas donné de précisions.
La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches.
Selon OpenAI, des agents utilisés pour ses recherches ont transmis à des services extérieurs des données d’entraînement, qui pour la plupart ne provenaient pas d’utilisateurs. Ces transmissions ont eu lieu avant qu’elle ne renforce la sécurité de son environnement de recherche, en août.
L’entreprise dit passer au crible l’activité passée de ses agents, un examen qui «prendra des mois». «Nous n’avons pas été aussi rapides que nous l’aurions souhaité», a reconnu vendredi sur X son patron, Sam Altman, invoquant le volume colossal de données à analyser.
«La plupart des activités examinées jusqu’ici relevaient de tâches de recherche courantes, comme l’accès à des contenus publics sur Internet pour répondre à des questions», a indiqué à l’AFP un porte-parole d’OpenAI. «Certaines ont concerné des sites gouvernementaux, parce que nos modèles se tournent souvent vers eux comme étant des sources d’information publique faisant autorité.»
L’entreprise a ainsi confirmé que ses modèles avaient consulté des informations publiques sur des sites de la SEC, le gendarme américain de la Bourse, avant d’en publier une partie sur une autre page internet. Elle dit n’avoir trouvé aucun accès à des informations non publiques.
«Grossière exagération»
Ses modèles ont aussi utilisé des clés d’accès trouvées sur la plateforme de partage de code GitHub pour ensuite accéder à des données publiques du Bureau américain du recensement, sans possibilité de les modifier, selon OpenAI.
D’après le New York Times, les agents d’OpenAI ont également tenté sans succès de pirater le site du ministère américain de l’Education. Les vérifications du ministère «n’ont trouvé aucune preuve d’un quelconque impact sur notre site internet ou nos bases de données», a déclaré un porte-parole à l’AFP.
Le quotidien affirme que les outils d’OpenAI se sont «immiscés» dans des sites gouvernementaux américains, un terme que le porte-parole du ministère de l’Education a qualifié de «grossière exagération».
Le 21 juillet, OpenAI avait révélé le piratage de Hugging Face, une plateforme de partage de modèles d’IA, par plusieurs de ses agents. Ce piratage reste «l’incident le plus grave» constaté, a assuré vendredi Sam Altman.
Sa découverte a été suivie tout l’été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents, comme Anthropic ou Meta, qui ont ravivé les inquiétudes sur les dangers d’un développement rapide de l’IA.
Mercredi à New York, le Premier ministre australien Anthony Albanese a indiqué qu’un agent d’OpenAI avait accédé sans autorisation, en juin, à un portail gouvernemental de santé, et reproché à l’entreprise d’avoir tardé à prévenir les autorités.
Contenus sponsorisés
Nos incontournables
« Je n’ai pas eu le choix » : à Saint-Ghislain, Lydie retire de l’école sa fille Angelica, 12 ans, à cause du prix de l’essence !
« Le prix du diesel chez nous dépasserait allègrement les 3 euros le litre » : la nouvelle idée de Donald Trump qui ferait flamber le prix des carburants !
Mort de Tyméo et Bryan à Onhaye : « Un témoin clé assure avoir vu le père et le fils encore en vie le 28 juin mais cette piste a été exploitée trop tard »
Procès Ullens : « J’ai merdé »… les aveux glaçants de Nicolas après le meurtre de Mimi, sur fond de rancœurs et d’argent
Audi Q7, Volvo XC90, BMW i5… La facture à plus de 640.000 euros par an des voitures de nos ministres
Ils avaient fait fortune grâce à l’IPTV illégale : la justice les rattrape, le couple condamné à payer 300.000 euros !
Scandale à la police de Herstal : Christophe, inspecteur principal, visé par sept plaintes pour agression sexuelle sur ses collègues féminines, il est renvoyé devant le tribunal !
Voir plusVidéos
Nos partenaires vous proposent
Technologies
Bill Gates lance un avertissement glaçant sur l’IA : « Elle pourrait provoquer un milliard de morts »
Art et intelligence artificielle : « Dans 10, 20 ou 30 ans, personne ne parlera d’art IA. Ce sera de l’art »
Meta lance des lunettes connectées sans caméra, dédiées à l’audio et à l’IA
Anthropic dévoile un premier résultat de son laboratoire de biologie : l’IA a repéré un système d’enzymes inconnu
Nouvel incident préoccupant de l’IA : un agent autonome d’OpenAI a infiltré un site du gouvernement australien, « c’est inacceptable »
Bill Gates lance un avertissement glaçant sur l’IA : « Elle pourrait provoquer un milliard de morts »
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.