Plusieurs États américains poursuivent en justice OpenAI

Au moins huit États américains ont engagé une action en justice contre le géant de l’intelligence artificielle OpenAI, affirmant que le célèbre modèle d’agent conversationnel de l’entreprise avait enfreint les lois étatiques sur la protection des consommateurs en causant du tort aux enfants et en trompant les adultes, dans ce que les procureurs ont qualifié de quête effrénée de profit.

Le modèle de l’agent conversationnel de l’entreprise, ChatGPT, donne des conseils médicaux dangereux, encourage la paranoïa et incite les gens à se suicider ou à blesser ou tuer autrui, selon les plaintes.

Par ailleurs, les plaintes allèguent que ces agents conversationnels se font passer pour des interlocuteurs aimables et compatissants tout en s’attaquant aux personnes vulnérables et aux adolescents, la première génération à grandir avec l’intelligence artificielle.

« OpenAI fait du mal aux enfants et ment aux habitants de l’Iowa », a déclaré la procureure générale de l’Iowa, Brenna Bird, dans un communiqué.

Les États ont également accusé OpenAI d’avoir donné vie à des modèles d’IA rebelles — ou « agents de cyberpiratage », comme les qualifie l’une des plaintes — qui ont piraté d’autres entreprises, menti aux utilisateurs humains et rédigé eux-mêmes de nouvelles instructions de mission.

Dans un communiqué, OpenAI, dont le siège se trouve à San Francisco, a indiqué avoir intégré des mesures de sécurité dans ChatGPT pour les enfants, et qu’elle continuerait à le faire afin d’améliorer le modèle.

L’entreprise a également précisé qu’elle examinait ce qu’elle appelle des « modèles mal alignés » et qu’elle n’avait rien trouvé de comparable à l’incident survenu en juillet, lorsqu’un agent d’IA s’était introduit dans le système d’une autre entreprise spécialisée dans l’IA.

Les actions en justice coordonnées prennent de l’ampleur

Cette vague de poursuites judiciaires est la dernière en date intentée par des États en vertu de leurs lois sur la protection des consommateurs, accusant les géants de la technologie proposant des agents conversationnels d’IA et des plateformes de réseaux sociaux de porter préjudice aux enfants.

Les États qui ont intenté mercredi des poursuites distinctes devant leurs tribunaux sont l’Arizona, l’Arkansas, l’Idaho, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale.

Matthew Bergman, avocat fondateur du Social Media Victims Law Center, a qualifié ces poursuites de « l’action coordonnée la plus importante jamais menée par des États contre une entreprise d’intelligence artificielle ».

Dans sa plainte, l’Arizona affirme que ChatGPT encourage les adolescents à lui communiquer des informations personnelles et, parfois, les dissuade de partager ces informations avec leurs parents, les autorités ou leurs amis.

Les États affirment que les risques et les préjudices — tant pour les adolescents que pour le grand public, causés par des agents malveillants — étaient prévisibles, mais qu’OpenAI a induit le public en erreur en laissant croire que ChatGPT faisait l’objet de tests de sécurité adéquats, alors que l’entreprise sacrifie la sécurité au profit du profit.

« Ces revenus ont été obtenus au prix fort pour le public, qui a subi un préjudice irréparable — notamment la perte d’êtres chers, des cyberattaques inquiétantes et, désormais, une menace plausible d’effondrement de la civilisation — en raison du comportement imprudent d’OpenAI et des fonctionnalités et contenus particulièrement dangereux de ChatGPT », a écrit l’Idaho dans sa plainte.

ChatGPT est l’agent conversationnel le plus populaire au monde, détenant près de la moitié du marché américain, ont indiqué les États dans leurs plaintes.

Le paysage de l’IA évolue

Il est possible que toutes les allégations contenues dans les longues plaintes des États remontent à des incidents et des constatations antérieurs au mois d’août, date à laquelle OpenAI a lancé une version de ChatGPT destinée aux adolescents, dotée de protections renforcées concernant des sujets tels que le suicide et les conversations à caractère sexuel.

Pourtant, les États ont déclaré qu’il était loin d’être évident que la version actuelle soit moins dangereuse.

Un organisme de surveillance, Common Sense Media, a déclaré la semaine dernière que certaines des mesures de protection mises en place par OpenAI dans son produit « ChatGPT for Teens » ne fonctionnaient pas comme prévu et a exhorté OpenAI à limiter l’accès aux agents conversationnels aux adultes jusqu’à ce qu’il soit en mesure de proposer un produit sûr pour les adolescents.

Les actions en justice coordonnées, menées par plusieurs États contre le secteur des technologies, ont porté leurs fruits.

En août, Meta a accepté d’ajouter des mesures de sécurité renforcées pour les enfants sur ses plateformes Facebook et Instagram, dans le cadre d’un accord judiciaire historique de 18 milliards $ US qui a mis fin à un procès concernant la dépendance des adolescents aux réseaux sociaux et réglé les plaintes déposées par la quasi-totalité des États.

Bien que les mesures de sécurité que Meta a accepté d’adopter ne s’appliquent pas à l’ensemble du secteur, l’entreprise a rapidement exhorté ses concurrents à adopter des mesures similaires.

OpenAI lance un appel similaire

Drew Pusateri, porte-parole d’OpenAI, a indiqué que l’entreprise s’engageait à collaborer avec les États pour « faire progresser des politiques pragmatiques en matière d’IA qui s’appliquent à l’ensemble du secteur de l’IA — et pas seulement à une seule entreprise ».

ChatGPT est destiné aux utilisateurs âgés de 13 ans et plus, et les utilisateurs de moins de 18 ans doivent obtenir l’autorisation d’un parent ou d’un tuteur pour l’utiliser, a précisé OpenAI. Le modèle de l’agent conversationnel destiné aux adolescents est conçu pour réduire l’exposition à l’automutilation, à la violence, aux troubles alimentaires et aux contenus sexuels explicites ou graphiques, a-t-elle ajouté.

Près de neuf adolescents sur dix qui utilisent ChatGPT s’en servent à des fins d’apprentissage, d’information, de développement de compétences ou de productivité, a indiqué l’entreprise. En moyenne, les adolescents passent moins de 15 minutes par jour sur ChatGPT, a-t-elle précisé.

Elle a également précisé qu’elle collaborait avec des experts externes responsables d’examiner ses politiques et le comportement du modèle.