Poursuite contre OpenAI : 8 États américains accusent ChatGPT de nuire aux mineurs

Au moins huit États poursuivent en justice le géant de l'intelligence artificielle OpenAI, affirmant que le modèle populaire d'agent conversationnel de l'entreprise a violé les lois d'État sur la protection des consommateurs en nuisant aux enfants et en trompant les adultes.

Le modèle d'agent conversationnel de l'entreprise, ChatGPT, donne des conseils médicaux dangereux, encourage la paranoïa et incite les utilisateurs à faire du mal à autrui ou à se suicider, selon la poursuite déposée par l'Iowa.

Dans le même temps, les agents conversationnels prétendent être aimables et compatissants tout en exploitant les personnes vulnérables, toujours selon le recours.

OpenAI fait mal aux enfants et ment aux habitants de l'Iowa, a déclaré dans un communiqué la procureure générale de l'Iowa, Brenna Bird.

Dans une déclaration, OpenAI a indiqué avoir déjà intégré des mesures de protection de la sécurité pour les enfants dans ChatGPT, et qu'elle continuera à le faire pour améliorer son modèle.

Ces poursuites sont les plus récentes déposées par des États en vertu de leurs lois sur la protection des consommateurs, accusant les géants technologiques qui proposent des agents conversationnels d'IA et des plateformes de réseaux sociaux de nuire aux enfants.

Les États qui ont déposé des plaintes distinctes mercredi devant des tribunaux d'État sont l'Arizona, l'Arkansas, l'Idaho, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale.

Dans sa plainte, l'Arizona affirme que ChatGPT encourage les adolescents à partager des informations personnelles avec lui et, parfois, les dissuade de partager ces informations avec leurs parents, les autorités ou leurs amis.

ChatGPT est l'agent conversationnel le plus populaire au monde, détenant près de la moitié du marché américain, selon les plaintes.

Des États en opposition à la Silicon Valley?

En août, Meta – maison-mère de Facebook et Instagram, notamment – a accepté d'ajouter des mesures renforçant la sécurité pour les enfants sur ses plateformes Facebook et Instagram dans le cadre d'un accord judiciaire historique de 18 milliards de dollars américains.

Cette entente a mis fin à un procès sur la dépendance des adolescents aux réseaux sociaux et a ainsi réglé des plaintes déposées par la quasi-totalité des États américains.

Les poursuites coordonnées entre les États contre l'industrie technologique ont porté leurs fruits. Bien que les mesures de sécurité que Meta a accepté d'adopter ne s'appliquaient pas à l'ensemble du secteur, l'entreprise a vivement encouragé ses concurrents à adopter des mesures similaires.

Le porte-parole d'OpenAI, Drew Pusateri, a déclaré dans un communiqué que l'entreprise s'engage à travailler avec les États pour faire progresser des politiques d'IA pragmatiques qui s'appliquent à l'ensemble de l'industrie de l'IA – et pas seulement à une seule entreprise.

ChatGPT est destiné aux utilisateurs âgés de 13 ans et plus, et les utilisateurs de moins de 18 ans ont besoin de l'autorisation d'un parent ou d'un tuteur pour l'utiliser, a indiqué OpenAI.

Le modèle d'agent conversationnel pour les adolescents comporte des garde-fous conçus pour réduire l'exposition à l'automutilation, à la violence, aux troubles de l'alimentation et aux contenus sexuels ou choquants, a précisé l'entreprise.

Près de 9 adolescents sur 10 qui utilisent ChatGPT l'utilisent pour l'apprentissage, l'information, le développement de compétences ou la productivité, selon l'entreprise. En moyenne, les adolescents passent moins de 15 minutes par jour sur ChatGPT, a-t-elle ajouté.

ChatGPT propose des rappels de pause lors des périodes d'utilisation prolongée, et OpenAI a déclaré travailler avec des experts externes qui examinent ses politiques ainsi que le comportement du modèle.

À lire aussi :

• 225 chercheurs réclament des « changements immédiats » pour prévenir les dérives de l’IA
• Une IA d’Anthropic a envoyé un faux signalement de meurtre à la police de Philadelphie