La nouvelle IA de Meta est accusée de lire tous vos messages, même si vous refusez

Alors qu’il lui en avait interdit l’accès, un journaliste affirme que la nouvelle IA de Meta, Meta Muse, a utilisé son historique de messages pour répondre à une requête. De son côté, Meta Muse nie en bloc l’avoir fait.

Le 8 septembre dernier, Meta a déployé aux États-Unis son nouveau modèle baptisé Meta Muse. Ce dernier est capable de répondre à toutes sortes de questions, mais aussi d’interagir avec des applications et d’effectuer des tâches à la place de l’utilisateur, comme réserver un hôtel en ligne.

Meta met particulièrement en avant le respect de la vie privée de sa nouvelle IA, mais la réalité semble quelque peu différente. Récemment, nous apprenions que Meta Muse pouvait déléguer certains appels téléphoniques à un centre d’appel. Aujourd’hui, un journaliste spécialisé dans la tech rapporte que la nouvelle IA de Meta a accédé à ses iMessages alors qu’il le lui avait interdit. 

Malgré une interdiction d’accès, Meta Muse utilise des messages personnels pour répondre à une requête

Tout commence lorsque Jason Aten, chroniqueur et journaliste tech pour le média américain Inc., décide d’installer le modèle Meta Muse sur son iPhone et son Mac afin de le tester. Dans un premier temps, il demande à l’intelligence artificielle d’écrire une courte biographie à son sujet et de l’aider dans son travail, notamment en lui proposant des idées de personnes à interviewer et des sujets à traiter. Jusqu’ici, tout se passe normalement. Mais à un certain moment, Meta Muse lui suggère qu’une conversation en cours entre Jason et son co-animateur de podcast au sujet des nouveaux iPhones pourrait faire l’objet d’un article. Cette notification fait par ailleurs référence à une autre conversation avec son rédacteur en chef concernant la préparation d’une chronique.

Selon toute vraisemblance, Meta Muse a donc eu accès aux conversations personnelles de Jason Aten. Le problème ici n’est pas que l’IA se réfère à des messages, mais qu’elle le fasse alors que le journaliste lui ait interdit l’accès lors de sa configuration. En effet, Jason Aten l’affirme :  « je me souviens avoir explicitement choisi de ne pas lui permettre d’accéder à mes messages, à mon calendrier et à mes autres informations personnelles ».

Meta Muse réfute en bloc avoir un accès à l’historique des messages du journaliste

Le journaliste a demandé à Meta Muse s’il avait accédé à son historique de messages malgré son interdiction, ce que l’intelligence artificielle a formellement réfuté. Cette dernière a expliqué avoir seulement eu accès au texte affiché sur les bannières de notification. Peu convaincu par cette explication, Jason Aten a mené sa propre enquête. Il affirme avoir constaté que Muse synchronisait des données issues de la base de données locale de l’application Messages sur son Mac. Et le journaliste ne cache pas son mécontentement : « Fouiller dans la base de données privée de mes messages sur mon Mac ne me rassure pas du tout. Mentir à ce sujet n’est pas mieux ».

Cet épisode nous rappelle donc que l’IA a tendance à se montrer particulièrement intrusive, même lorsque nous lui interdisons de mettre son nez dans certaines affaires.