Microsoft Copilot confie parfois vos photos intimes à des êtres humains

Retoucher une photo avec l’IA de Microsoft n’a rien d’un tête-à-tête avec la machine. Des relecteurs en chair et en os examinent l’image d’origine et le résultat, sans que rien ne soit flouté.

Microsoft fait noter par des humains les retouches d’images produites par Copilot, dans le but d’entraîner son modèle. Des centaines de sous-traitants compareraient ainsi la photo envoyée par l’utilisateur et la version générée par l’IA. Les clichés leur parviennent tels quels, avec les visages, les proches et tout ce que l’on croyait réservé à la machine.

Des visages jamais floutés

Le dispositif porte sur l’outil d’édition d’images de Copilot, celui qui rajeunit un portrait, gomme un passant ou change un arrière-plan. Chaque relecteur reçoit la consigne tapée par l’utilisateur, l’image d’origine et la proposition de l’IA, puis note la fidélité de l’exécution. Ce travail relève de l’entraînement du modèle, un chantier distinct de la modération des contenus interdits, et le recrutement passe au moins en partie par Prolific, une plateforme de micro-travail en ligne.

Lire aussi : Microsoft dévoile son nouveau Copilot, une « super app » pour toutes ses IA

« Les visages ne sont jamais censurés, et beaucoup de requêtes sont de nature sexuelle, au consentement douteux », raconte l’un de ces relecteurs. Un autre dit être tombé sur un lot de « huit photos prises sous les jupes », qu’il a signalé à sa hiérarchie.

Interrogée, l’entreprise ne dément rien et renvoie à ses conditions d’utilisation : les données des clients servent « notamment à améliorer nos produits et à faire respecter notre code de conduite ». Aucun engagement de floutage ou d’anonymisation n’accompagne cette réponse, qui ne précise pas davantage si l’utilisateur peut s’opposer à cette relecture, ni combien de temps les images sont conservées. L’ampleur du dispositif se compterait au minimum en centaines de relecteurs, un chiffre que Microsoft ne confirme pas.

Sept ans après Siri, la même controverse

L’industrie a déjà trébuché sur ce terrain en juillet 2019, quand des sous-traitants d’Apple ont raconté écouter les enregistrements de Siri, conversations médicales et moments intimes compris. La firme avait suspendu son programme une semaine après les révélations. En France, l’affaire se prolonge devant la justice : après une plainte de la Ligue des droits de l’Homme en février 2025, le parquet de Paris a confié une enquête à l’Office anti-cybercriminalité, une procédure révélée en octobre de la même année.

Copilot ne fait pas cavalier seul dans ce recours aux petites mains. Deux semaines avant ces révélations, une enquête distincte décrivait des centaines de sous-traitants occupés à lire des conversations ChatGPT, pendant qu’Anthropic reconnaissait de son côté pratiquer aussi la relecture humaine. La retouche d’images ajoute un degré : au texte s’ajoutent désormais les visages.