Si ce n’était que la littérature

Si l’affaire Thélyson Orélien (auteur du roman C’était ça ou mourir) a fait couler beaucoup de pixels depuis les allégations d’utilisation de l’intelligence artificielle (IA), il m’a fallu un seul café à la Grande Bibliothèque avec la comédienne, réalisatrice et metteuse en scène Dominique Leclerc pour comprendre que cette histoire n’était qu’une mouche collée au plafond. Une simple distraction, comme le doigt qui montre la lune.

Dominique a consacré les treize dernières années de sa vie à écrire et à monter des pièces de théâtre sur le transhumanisme (Posthumains) et l’IA (Une vie intelligente chez Duceppe, en collaboration avec l’Université de Montréal). J’ai aussi vu sa pièce i/O, toujours sur les dérives de ces zones troubles de la techno qui échappaient encore au grand public, en 2021.

« Je suis un peu fâchée aujourd’hui, car j’ai essayé de mettre ça en lumière dès 2017. On pensait que j’étais dans la science-fiction ! »

Mais l’arrivée de ChatGPT, une Ferrari sans freins offerte au grand public, a tout fait basculer. C’est en 2023 que Yoshua Bengio a écrit sa première lettre d’alerte (il en a publié une autre cette semaine avec 224 chercheurs) en s’inquiétant des dérives possibles. Pas d’une IA qui gagnerait des prix Goncourt, non, d’une IA aux desseins incompatibles avec les nôtres et incontrôlables. Trois ans plus tard, nous y sommes, des lanceurs d’alerte démissionnant et multipliant les drapeaux levés.

Et avec quel enthousiasme le public s’est précipité sur ces IA, a adopté Claude ou Gemini, et désormais Muse (comme assistant personnel auquel on déconseille de dévoiler son NIP ou ses dick pics), avec quelle naïveté avons-nous confié nos rêves, nos envies, nos projets et nos créations à l’IA, sans prévoir la possibilité (quoiqu’Asimov l’avait fait en 1942 avec ses trois lois de la robotique) que la machine se retourne contre nous. Alors, ce pauvre Thélyson, vrai ou faux, pile ou face, son cas relèvera de l’anecdote bientôt.

God is an American

Si Dieu est partout, désormais, l’IA aussi. Dans son film Posthumains, Dominique Leclerc a choisi un extrait montrant l’ex-ministre de l’Économie Pierre Fitzgibbon, en août 2020, déclarant qu’il veut faire venir les compagnies pharmaceutiques et qu’avec le concours de l’IA, de Mila ou d’Imagia, et des données de la RAMQ (« une mine d’or », dit-il), « c’est winner ». « La stratégie du gouvernement, c’est carrément de vouloir attirer les pharmas de venir jouer dans nos platebandes et profiter de ça », affirme l’ex-mandarin caquiste qui nous a laissé Northvolt en souvenir.

Dominique Leclerc, qui décrit son propre parcours médical dans le film, se montre inquiète de la sécurité et de la confidentialité de nos données. Mi-cassandre, mi-cyborg, Dominique pense que l’être humain a désormais subi une mutation, ne serait-ce que parce que nous sommes devenus dépendants de nos téléphones « intelligents » et ne connaissons plus un seul numéro de téléphone de mémoire.

Pour l’IA, Dominique ne parle pas d’un « outil », mais plutôt d’un « système » ayant des intentions politiques, économiques. Un outil n’a pas d’intention et ne se reproduit pas. Et passons par-dessus les questions éthiques, environnementales (importantes), passons aussi sur les cyberattaques que l’IA rendra plus faciles. Le week-end dernier, le système de réfrigération de centaines d’épiceries de grandes chaînes en France a fait l’objet d’une attaque provoquant un immense gaspillage de denrées. Surprise ?

« Ce n’est que le début, estime Dominique. Nous sommes tellement vulnérables. Je ne me sens pas protégée au Québec face à ces enjeux de cybersécurité. Il manque d’éducation, les gens sont mal informés et je ne fais confiance à aucun politicien sur ces dossiers. »

Mes données, mon choix

La sociologue Dominique Méda écrivait dans un article publié dans Le Monde (10 octobre 2026) sur la menace croissante de l’autoritarisme d’entreprises de la Silicon Valley : « L’idée que les entreprises n’auraient aucun compte à rendre alors qu’elles exercent aujourd’hui des pouvoirs privés considérables sur leurs salariés, leurs cocontractants, les territoires, l’environnement et les politiques publiques est en réalité de moins en moins défendable. Alors que des idéologues comme [le milliardaire américain cofondateur de Paypal] Peter Thiel défendent l’idée qu’il faudrait confier le gouvernement des nations aux entreprises, il est urgent, au contraire, de constitutionnaliser les pouvoirs de celles-ci. »

C’est le sujet du nouveau roman très attendu de Giuliano da Empoli (Le mage du Kremlin, Les ingénieurs du chaos, L’heure des prédateurs), Le fondateur. J’ai lu avidement ce portrait romancé de Peter Thiel, un libertarien à la tête de Palantir, une compagnie de logiciels en analyse de données, qui a fait son entrée à la Maison-Blanche dans la vraie vie.

Dans Le fondateur, l’entreprise, rebaptisée Panoptik, a des États comme clients et leurs chefs sont qualifiés de « mouches à fruits ». Da Empoli fait dire à son personnage Zimmer (l’alter ego de Peter Thiel, que je vous suggère de googler pour élargir votre vision du monde) : « Aujourd’hui, Google détient le monopole de la curiosité : quatre-vingt-dix pour cent des questions que l’humanité se pose chaque jour passent par eux. Avec le cloud, Amazon et Microsoft ont le monopole de la mémoire, même la CIA leur confie ses archives. Facebook a le monopole de l’amitié, Twitter celui de l’indignation, Tinder celui des plans cul. Ce qui est en train de basculer, ce ne sont pas juste des secteurs d’activité économique, ce sont des pans de la condition humaine. C’est pourquoi nos entreprises ne sont pas de simples entreprises, elles sont les éléments constitutifs d’une nouvelle réalité. »

Et toutes ces entreprises ont accès à des données nous concernant, avec ou sans notre consentement.

Dominique conclut : « Je suis écœurée d’entendre la phrase : “Je n’ai rien à cacher.” Admettons que tu aimes le jaune, que tu “likes” tout ce qui est jaune et que tu l’affiches partout, le jour où un parti politique au pouvoir interdira le jaune, tu vas t’apercevoir qu’il n’y a rien d’innocent dans ton choix. »