«GuérillIA» de Christophe Payet: «Il faut faire de l'IA une arme d'émancipation»

L'affaire Thélyson Orélien, les vidéos faites par intelligence artificielle (IA) à la gloire de Donald Trump, les inquiétudes sur une technologie prête à dépasser l'humain ; les craintes autour de l’IA sont omniprésentes dans le débat public. Les usages actuels de cette technologie ne sont pourtant pas une fatalité. Pour lutter contre une IA dite « technofasciste », le meilleur moyen reste encore de s'en emparer. C'est la thèse défendue par le journaliste Christophe Payet dans son ouvrage GuérillIA, mener la bataille culturelle de l'intelligence artificielle (éditions du Seuil), paru il y a quelques semaines.

RFI :  Dans votre court – mais dense ! – essai GuérillIA, mener la bataille culturelle de l'intelligence artificielle, vous expliquez que la terreur de l'IA relève, comme le mythe de la « superintelligence », d'un véritable « technopium ». Que voulez-vous dire par là ?

Christophe Payet : Il y a évidemment un petit clin d'œil à l'opium du peuple chez Karl Marx, qui parlait ainsi de la religion comme d'une façon d'anesthésier les masses pour éviter qu'elles se révoltent. Il y a quelque chose de cet ordre-là chez les promoteurs de l'IA dominante telle qu'elle existe aujourd'hui, avec un discours qui alterne entre la rédemption – « l'IA va résoudre tous nos problèmes » – et au contraire l'apocalypse, le risque existentiel. Dans un cas comme dans l'autre, cela nous condamne à l'impuissance et nous empêche de regarder ce qu'il se passe réellement derrière, à savoir une réalité technologique, et de rapport de pouvoir. Or, c'est cela qu'il faut regarder, au-delà du nuage de fumée que j'appelle le « technopium ».

Une des clés pour lutter contre cette IA telle qu'on la connaît aujourd'hui, détenue par de très petits groupes de personnes, truffée de biais sexistes et racistes, c'est selon vous de se battre non pas contre l'IA mais avec l'IA. Pourquoi cela ?

En fait, il s'agit de se battre sur le terrain de l'IA. On a aujourd'hui le sentiment que l'IA que j'appelle l'« IA hégémonique » est devenue l'arme d'un petit oligopole capitaliste. Pourtant, l'intelligence artificielle en tant que telle n'est pas forcément l'arme des technofascistes. En revanche, c'est le terrain de la bataille culturelle aujourd'hui, et il faut l'investir pour en faire des armes d'émancipation. Il est possible d'emmener ces technologies à un autre endroit, voire même à l'opposé de ce que produisent aujourd'hui ces outils qui ont énormément d'impacts négatifs environnementaux, cognitifs, sociaux aussi. 

Justement, ce qui est assez rafraîchissant, c'est que vous exhortez à refonder une IA, qui serait d'une certaine manière éthique. Quelles seraient ses caractéristiques ?

La bataille se mène à plusieurs niveaux : au niveau des outils, des usages et des imaginaires. Choisir un certain type d'outil, c'est déjà choisir son camp, parce qu'un outil n'est jamais neutre. Typiquement, les outils majoritaires qu'on utilise aujourd'hui – ChatGPT, Claude... – ont la particularité d'être totalement opaques. Or, c'est fondamental lorsqu'on se penche sur l'aspect politique de l'IA. Car les biais sexistes, racistes de ces modèles, viennent de la base de données sur laquelle ces outils ont été entraînés. Sauf que dans les modèles propriétaires opaques, on n'a pas accès à ces bases de données. On ne connaît donc pas « l'inconscient » des machines que l'on utilise pour produire de la pensée et de l'imaginaire. À l'inverse, un outil ouvert, open source, a une qualité première : il est transparent sur les données utilisées pour l'entraînement. On peut donc les voir, les connaître, mais aussi les modifier et donc fabriquer des données alternatives ! Des artistes nous montrent d'ailleurs la voie en créant des bases de données d'IA féministes, antiracistes, décoloniales.

La première qualité, c'est donc la transparence. La deuxième, c'est d'avoir une taille de modèle maîtrisée. Les modèles dominants sont dans une course à toujours plus de puissance de calculs, donc toujours plus de serveurs, de data centers (centres de données), avec les conséquences écologiques que l'on connaît. Un petit modèle, avec moins de paramètres de calculs, va moins consommer ; mais il pourra par ailleurs être téléchargé localement, c'est-à-dire téléchargé sur votre ordinateur, et n'utiliser que la consommation énergétique de votre ordinateur ou de votre smartphone.

Une autre caractéristique selon vous du combat contre l'IA hégémonique, c'est qu'il sera forcément décolonial – vous parlez d'ailleurs de créoliser l'IA. Quel lien faites-vous entre intelligence artificielle et colonisation ?

L'IA hégémonique reproduit clairement des logiques coloniales et impérialistes : elle est, pour commencer, dans le fantasme d'une quête de toujours plus de puissance. Ces modèles sont également dans une logique extractiviste – sur les questions environnementales évidemment, mais aussi de l'extractivisme de la force de travail. Aujourd'hui, des populations sont, notamment dans les pays du Sud global, employées à des revenus extrêmement bas – qui relèvent quasi de l'esclavage moderne – pour entraîner ces modèles. L'IA dominante est aussi basée sur un pillage des données, un pillage du droit d'auteur. Et, pour finir, elle reproduit une forme d'impérialisme culturel. Quand on déploie un ChatGPT ou un Claude à l'ensemble de la planète, on déploie une vision, non seulement occidentale, mais en réalité une vision d'homme blanc californien, à l'échelle de la planète. La créolisation technologique, c'est donc promouvoir une diversité technologique : dire, « on ne peut pas imposer un seul modèle à l'ensemble du globe ». Ces modèles sont aveugles à des réalités linguistiques, mais aussi à des contextes sociaux, culturels, religieux. Ils vont donc non seulement être biaisés, mais ils vont même être inefficaces et impotents. La créolisation technologique permet de se réapproprier localement une technologie, pour l'adapter à un contexte socioculturel particulier. Ce qu'il faut promouvoir, c'est une forme de biodiversité de l'IA.

Et cela, non seulement c'est possible, mais cela existe déjà – en Afrique notamment ? 

En Afrique du Sud, il y a un petit modèle de langage qui s'appelle Inkuba LM. Il s'agit d'un tout petit modèle de langage, très frugal en énergie, mais qui, en fait, est beaucoup plus pertinent et beaucoup plus efficace socialement que tous les grands modèles qu'on nous vend comme la superintelligence. Tout simplement car InkubaLM a été entraîné sur cinq langues africaines, et surtout car elle a été conçue localement, à partir de besoins exprimés localement, et pensée par des gens qui vivent sur place et comprennent le contexte socioculturel. Et ce modèle permet aujourd'hui de développer des applications d'accès aux services publics en multilingue ou des applications de santé.

Une autre thématique que vous développez dans le livre, c'est que l'intelligence artificielle générative telle qu'on la connaît aujourd'hui est vue comme un moyen d'augmenter la productivité, donc faire plus pour moins cher avec moins d'efforts. Est-il encore temps de changer de paradigme et de passer à une vision, comme vous le dites, « récréationnelle » de l'IA ?

Ça, ça fait partie du discours dominant qui vise un peu à nous endormir et à nous faire croire que les choses ne peuvent aller que dans un sens. D'ailleurs, quand on regarde les discours aujourd'hui sur, y compris la régulation de l'IA, on parle de pause, ou de ralentissement : il est donc toujours question du rythme auquel on va, mais jamais de la direction vers laquelle on se rend. Pourtant, il n'y a pas de fatalité en matière de technologies. Oui, ces technologies de deep-learning, de machine-learning, existent aujourd'hui. Mais ce que l'on veut en faire, c'est une question de choix collectifs et politiques. Il faut donc repenser la gouvernance de ces IA pour décider ce que la recherche va développer. On peut aller vers de l'IA qui produit du bien commun, de la créativité, qui ouvre de nouveaux champs d'exploration pour les artistes. C'est une question de choix.

Au-delà des idées, vous fournissez dans votre livre un véritable « guide pratique » de la lutte à travers l'IA. Quels outils peut-on utiliser pour se battre, chacun à notre niveau ?

Chacun et chacune peut commencer par développer un rapport critique à ces outils-là – même en utilisant Claude ou ChatGPT, on peut s'interroger sur les biais derrière les réponses que nous fournit la machine. Il existe aussi des outils alternatifs : Olmo, avec un modèle 100% ouvert ; Apertus, qui a été développé par la recherche publique suisse. Voilà pour les modèles de langage – mais en réalité, des outils ouverts comme ceux-là existent dans tous les domaines, en génération d'images, de son...  J'appelle donc à avoir cette curiosité d'aller tester les alternatives, de fouiller, car à mon sens, la réappropriation politique passe aussi par le fait d'aller mettre les mains dans le cambouis. Sur le numérique, on a depuis trop longtemps abandonné par confort. Il faut se réapproprier ces outils-là. On ne peut pas les laisser comme ça aux mains de quelques milliardaires.

À lire aussiMener la «bataille culturelle» à l'ère de l'IA: les pistes de Christophe Payet