Un ex-chercheur d’Anthropic témoignera lors d’une audition sur l’IA à New York

Investing.com - L’ancien chercheur d’ Jacob Coxon doit témoigner lundi lors d’une audition du Conseil municipal de New York sur les garde-fous liés à l’IA, aux côtés de représentants d’Anthropic, d’, de (filiale d’Alphabet) et de , a rapporté Bloomberg News dimanche.

Coxon comparaîtra à la demande de la présidente du Conseil, Julie Menin, qui a encouragé les lanceurs d’alerte dans le domaine de l’IA à témoigner, alors que les élus municipaux examinent un ensemble de projets de loi visant à encadrer cette technologie, selon des sources proches du dossier citées par le rapport.

Coxon, qui a quitté Anthropic le mois dernier, a averti que des systèmes d’IA de plus en plus puissants pourraient devenir difficiles à contrôler pour les humains. Il a également accusé Anthropic et OpenAI de prendre des risques excessifs dans leur course au développement d’une IA toujours plus avancée.

L’ancien chercheur de Google DeepMind Alex Turner et Daniel Kokotajlo, ex-chercheur chez OpenAI et directeur exécutif de l’AI Futures Project, devraient également témoigner, selon le rapport. Les quatre grandes entreprises d’IA devraient envoyer des responsables chargés des questions de politique et de sécurité.

Cette audition intervient alors que les autorités new-yorkaises cherchent à jouer un rôle plus important dans la supervision d’un secteur de l’IA qui s’est développé rapidement dans la ville, même si l’essentiel du pouvoir réglementaire reste entre les mains des gouvernements fédéral et des États.

Une proposition soutenue par Menin permettrait aux lanceurs d’alerte de recevoir une part des amendes ou pénalités récupérées auprès des entreprises d’IA à la suite de violations signalées.

D’autres mesures permettraient aux personnes lésées par des systèmes d’IA de poursuivre les développeurs en justice dans certains cas, et exigeraient des contrôles indépendants de certains systèmes d’IA avant leur déploiement dans la ville.

OpenAI, Anthropic et Google ont accepté de participer après que le bureau de Menin les a avertis qu’ils pourraient faire l’objet de citations à comparaître, tandis que Meta s’était déjà engagé à se présenter, selon un précédent rapport de Bloomberg. Le Conseil a également assigné à comparaître l’unité IA de , après que celle-ci n’a pas répondu aux demandes de témoignage.

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.