Ottawa garde secret l’usage fait de l’IA dans sa formation sur l’IA

Le gouvernement fédéral estime que des « dispositions de confidentialité » l’empêchent de dévoiler aux étudiants tentés de suivre sa formation sur l’intelligence artificielle (IA) si son contenu a été généré par l’IA.

« Les Canadiens doivent pouvoir déterminer s’ils interagissent avec des systèmes d’IA et s’ils ont affaire à du contenu généré ou modifié par l’IA », avait pourtant promis sans détour le ministre Evan Solomon dans un communiqué de presse daté du 23 juillet dernier.

De toute évidence, son propre gouvernement ne s’est pas senti concerné par cette consigne lorsqu’est venu en septembre le moment d’accorder pas moins de 13 millions de dollars à l’Alberta Machine Intelligence Institute (AMII) pour la diffusion de trois formations en ligne visant à démystifier l’usage de l’IA.

Le premier volet, destiné aux étudiants postsecondaires et mis en ligne 12 jours après son annonce, n’indique nulle part si son propre contenu a été pondu ou non par une IA générative. Cela, même si les professionnels d’AMII « peuvent » avoir eu recours à « l’utilisation appropriée de l’intelligence artificielle générative », concède le ministère Innovation, Sciences et Développement économique Canada.

Des pans entiers de cette formation, payée par les fonds publics, seraient à « 100 % » l’œuvre de la machine, si l’on en croit l’outil de détection d’IA Pangram, auquel Le Devoir a soumis une dizaine de chapitres en français et en anglais. Ce logiciel, lui-même basé sur l’IA, a quand même jugé que certaines sections auraient été en partie écrites ou éditées par des humains.

Le Devoir a révélé plus tôt en octobre qu’AMII n’avait pas respecté son obligation de fournir une formation d’une qualité égale en français en offrant uniquement des vidéos en anglais lors des cinq premières semaines de sa mise en ligne. On y enseigne aussi des sigles déconseillés en français, ce que des experts voient comme un indice de traduction automatisée par l’IA.

L’IA, pas « intrinsèquement mauvaise »

L’institut d’intelligence artificielle qui a engrangé des millions en fonds publics fédéraux pour offrir ces formations sur l’IA soutient que de nombreux professionnels y ont mis le cœur à l’ouvrage, sans préciser davantage leur usage du copier-coller devant une plateforme d’IA générative.

L’AMII a toutefois critiqué la démarche du Devoir, rappelant qu’un « solide débat » entoure la faillibilité et les biais systémiques d’outils comme Pangram. L’institut note aussi le « dilemme éthique » qu’entraîne une telle suspicion constante. « [Cette approche] traite toute utilisation de l’IA générative comme intrinsèquement mauvaise ou déplacée. Il est important de voir les résultats de ces outils dans le contexte d’une activité, y compris la supervision humaine rigoureuse et la conception pédagogique derrière ce travail », s’est défendue sa porte-parole, Lynda Vang, dans un courriel en anglais.

Elle n’a pas souhaité expliquer pourquoi l’usage de l’IA n’est pas dévoilé aux jeunes participants de sa formation.

Cet argument éthique ne tient simplement pas la route dans le contexte d’un contrat gouvernemental, tranche Destiny Tchéhouali, professeur de communications à l’UQAM. « D’un point de vue de la reddition de compte, comme ici, c’est fondamental qu’il y ait transparence quant à la méthode utilisée. Si on n’est pas capable d’expliquer quel usage de l’IA a été fait, ça nourrit la suspicion davantage », estime-t-il.

Le cotitulaire de la Chaire de recherche du Québec sur l’intelligence artificielle et le numérique francophones (AINF) estime que les meilleures pratiques consistent à déclarer tout contenu généré par l’IA. C’est d’ailleurs écrit noir sur blanc dans le guide produit par le gouvernement du Canada pour ses fonctionnaires. « C’est très grave [de ne pas le déclarer], parce qu’il s’agit d’une formation. C’est assez paradoxal, puisqu’on devrait montrer l’exemple en matière d’usage responsable de l’IA. »

Pangram est-il fiable ?

L’outil de détection de l’IA Pangram est celui qui a été cité pour accuser l’auteur Thélyson Orélien d’avoir utilisé l’écriture machine pour produire son roman C’était ça ou mourir, soulevant une controverse qui bat toujours son plein.

Jean-Hugues Roy, professeur à la Faculté de communication de l’UQAM, a mis Pangram à l’essai cet automne en lui soumettant 100 vrais articles de journaux et 200 faux articles au moins à demi générés par l’IA. Résultat : aucun texte humain n’a été incorrectement classé. « Des faux positifs, je n’en avais aucun », a-t-il témoigné au Devoir.

Publiée à la fin de cet été, la version 4 de Pangram revendique une très grande fiabilité. Mais il manque d’études de grande envergure et de contexte quant à ses verdicts pour déterminer le type d’utilisation de l’IA qu’il détecte, nuance le professeur Tchéhouali.

Le gouvernement du Canada a justement mené une consultation publique cet automne afin « d’augmenter la transparence » dans l’usage de l’IA et de « gagner la confiance de la population ». C’est cette quête de « confiance » qui a d’ailleurs poussé le fédéral à s’engager dans l’enseignement de l’IA aux jeunes et aux formateurs, bien que l’éducation soit une compétence exclusive des provinces.