Réglementation de l’IA : un PDG canadien se méfie des demandes de la Silicon Valley

Aidan Gomez, président-directeur général (PDG) et cofondateur de Cohere, un fleuron canadien de l’intelligence artificielle (IA), se méfie des appels des grandes compagnies américaines, comme Anthropic, à réglementer l’industrie.

Nous avons besoin de plus de voix à la table, défend le fondateur dans une publication sur le site de Cohere dimanche.

Aidan Gomez refuse qu’une poignée de grands développeurs de modèles et de systèmes d’IA – qu'il qualifie d'oligopole – décident quasi unilatéralement de la façon de réglementer l’intelligence artificielle.

Sa déclaration fait suite à la publication samedi d’un long plaidoyer pour l’implantation de meilleurs garde-fous dans l’industrie de l’IA de la part d’un des gourous du milieu, Dario Amodei, cofondateur et PDG d’Anthropic.

Une demande qui se fait de plus en plus souvent entendre sur la place publique, alors que les déclarations alarmistes de personnes du milieu sur le potentiel de l’IA se multiplient.

Dans son essai, M. Amodei énumère des propositions visant à limiter les risques de l’IA et ralentir son développement afin de ne pas faire les choses à la hâte.

Cependant, il souhaite coordonner les efforts des entreprises américaines afin de ne pas perdre leur avance sur leurs compétiteurs, notamment ceux en Chine.

Si M. Gomez est d’accord sur la nécessité de vérificateurs indépendants, il remet énormément en question ce qu'Anthropic propose – ou plutôt qui il propose – pour instaurer des réglementations.

L’IA a besoin de garde-fous. Ça n’est pas le débat et ce ne l’a jamais été. Le débat concerne qui écrit les règles, qui peut participer et quels sont les intérêts qu’elles protègent.

Une demande qui dérange

Pour le Canadien, la principale pierre d’achoppement avec le patron d'Anthropic est la proposition que le gouvernement devrait assouplir les restrictions antitrust pour permettre aux compagnies d’IA de se concerter et de décider des réglementations.

Malheureusement, le processus législatif peut prendre du temps et l’IA évolue très rapidement. Alors, en parallèle avec la voie régulatrice, les compagnies d’IA peuvent et devraient volontairement travailler ensemble afin d’établir des standards, peut-on lire dans l’essai de Dario Amadei.

Une demande qui s’apparente à une campagne de peur, selon M. Gomez. Utilisant encore une fois la peur sous prétexte de prétexte de protéger le public, ces oligopoles demandent maintenant de plier les règles sur la concurrence et de leur permettre de dicter les règles pour tout le monde.

Un loup déguisé en mouton, un cartel sous n’importe quel autre nom, ajoute-t-il.

Pour Frédérick Plamondon, professeur à l’École des sciences de la gestion de l’UQAM, les comparaisons sont fortes, mais pas pour autant exagérées.

M. Gomez a raison de souligner qu'on serait laissé à un cartel de grandes compagnies pour gérer le développement d'une révolution sociologique, sociale et historique, explique l’expert en éthique de l'intelligence artificielle.

Il soutient aussi que la stratégie alarmiste d’Anthropic mérite d’être vue avec une certaine méfiance.

Le fait de dire "nos systèmes vont devenir tellement dangereux qu'il faut absolument les réguler", ça envoie aussi un message : "on est les seuls à avoir l'expertise pour encadrer". En même temps, on dit, "on approche notre objectif, il faut nous laisser le temps d'y aller, donnez-nous les moyens d'y aller".

Il rappelle que la logique avant tout commerciale affaiblit la position d'Anthropic comme représentant d’une posture éthique alignée avec les valeurs du public ou de la société.

Selon M. Gomez, l’un des grands absents des propositions est la consultation externe. S’il s’agit de la technologie la plus conséquente de l’histoire de l’humanité, les règles ne peuvent pas être écrites par un petit groupe de compagnies commercialement alignées derrière une exemption antitrust.

Il omet cependant de mentionner que Dario Amadei propose, par exemple d’inclure les gouvernements à titre de médiateur dans le processus.

L’autre option

Que propose le PDG de Cohere comme solution alternative? Avant tout, une structure coordonnée à l’international qui encadre les risques liés à l’IA.

Ce cadre inclurait notamment des gouvernements, des compagnies de l’industrie, des scientifiques et des experts partageant des multitudes de points de vue sur l’IA.

Pour M. Plamondon, cette utopie de coopération internationale est encore loin, même si elle n’est pas impossible.

Une coordination internationale, ça, je vois ça difficilement arriver. Surtout dans le contexte où les États-Unis possèdent à la fois les modèles et l'infrastructure de pointe, avance le chercheur en entrevue avec Radio-Canada.

Il est aussi difficile de savoir où les États-Unis se positionneront dans cette tendance de régulation de l’IA. Pas plus tard que lundi, le président Donald Trump a déclaré sur son réseau Truth Social que le scénario où l’IA prend le dessus sur le Monde, détruit l’Humanité, et toutes les autres mauvaises choses est un CANULAR.

Aidan Gomez demande aussi une transparence obligatoire sur la construction des modèles et systèmes, leurs utilisations prévues, leurs capacités, leurs risques et les mesures pour atténuer ces risques déjà en place.

Il avance que les évaluations indépendantes des modèles doivent être réalisées sur les risques de dérapages importants, ce que la structure internationale aurait préalablement déterminé.

Testons ce qui peut faire mal au public et aux sociétés et laissons les preuves déterminer ce qui requiert d’être testé plutôt que celui qui tient le stylo.

Frédérick Plamondon croit que le message d'Aidan Gomez vient de bonnes intentions, mais dénote tout de même des angles morts. Des grands oubliés généralement absents du discours public, au profit du débat autour de la sécurité, selon lui.

J'aimerais entendre parler plus souvent de la place du public, du projet de société qui est à la remorque des compagnies d'intelligence artificielle, explique le chercheur. J'aimerais avoir un espace où le public pourrait s'exprimer sur ce projet de société, sur les valeurs qu'on va mettre en place et sur ce qu'on attend de l'intelligence artificielle.

À lire aussi :

• Des solutions pour encadrer l’IA et éviter… l’extinction de l’humanité
• États-Unis : le président de la Chambre des représentants réticent à freiner l’IA
• Voici l’entreprise vietnamienne qui pollue votre fil Facebook