Moteurs de réponse en question

Lorsque des dispositifs d’intelligence artificielle (IA) peuvent générer, avec ou sans intervention humaine, des textes, des sons ou des images, c’est tout le processus de circulation de l’information inhérent aux processus démocratiques qui est métamorphosé. Bienvenue dans l’univers informationnel personnalisé au gré des interrogations de chaque individu, là où des outils carburant à l’intelligence artificielle produisent des réponses sur mesure aux moindres questions qui nous viennent à l’esprit. Les médias de masse seront-ils supplantés par les robots proposant du contenu sur les événements d’actualité généré en fonction de notre profil ?

Les évolutions que connaissent les moteurs de recherche illustrent la nécessité de mettre à niveau les lois afin de tenir compte des caractéristiques des robots mus par IA. Si les moteurs de réponse ne sont soumis à aucune obligation de transparence, ils peuvent à notre insu donner des informations qui ne sont pas vérifiées ou carrément trompeuses.

Les moteurs de recherche, ces ressources cruciales d’Internet, fournissaient des collections d’hyperliens. Selon les lois de plusieurs pays, ils ne sont pas responsables des contenus vers lesquels mènent ces liens. Toutefois, ils produisent désormais non plus des collections d’hyperliens, mais des réponses détaillées à une question introduite par un usager. Le moteur n’est plus un moteur de recherche, il est devenu un « moteur de réponse ». Les réponses qu’il donne s’analysent comme un contenu éditorial semblable à celui que l’on trouve un site d’information.

Cette évolution n’a pas échappé aux tribunaux, appelés à déterminer si un moteur de réponse est responsable des propos qu’il formule à la suite d’une interrogation. Par exemple, il y a quelques mois, un tribunal allemand a jugé Google responsable des fausses informations produites par ses résumés générés par IA. Les autorités allemandes ont considéré que ceux-ci relèvent de la législation sur les médias, au même titre que les médias de radio ou de télé.

En 2024, dans une affaire impliquant le passager Moffatt et Air Canada, un tribunal de la Colombie-Britannique a déterminé que l’entreprise qui met un robot conversationnel à la disposition du public est responsable des informations qui sont ainsi fournies aux personnes qui interagissent avec le dispositif.

Le juge a expliqué que l’entreprise qui déploie un tel dispositif fonctionnant à l’IA est responsable de toutes les informations figurant sur son site Internet, que ces informations proviennent d’une page statique ou d’un robot conversationnel ne fait aucune différence. Il a conclu qu’« Air Canada n’a pas pris de mesures raisonnables pour s’assurer que son robot donnait des informations exactes ». Le tribunal n’a pas retenu l’argument d’Air Canada selon lequel le client aurait pu trouver les informations correctes sur les tarifs de voyage en cas de deuil dans une autre partie de son site Internet. Le juge répond que cela n’explique pas pourquoi la page statique du site de l’entreprise serait intrinsèquement plus digne de confiance que le robot conversationnel qu’elle propose à la clientèle.

Il tombe en effet sous le sens que le client n’est pas en mesure de deviner qu’une section du site Internet d’Air Canada est exacte et qu’une autre ne l’est pas. Cette décision apporte un éclairage sur le statut d’un outil utilisé par presque tout le monde. Elle illustre concrètement comment l’introduction de l’IA modifie les responsabilités de la plupart des sites en ligne.

Ces évolutions résultant de décisions de juges peuvent assurer une certaine mise à niveau. S’agissant des dispositifs fonctionnant à l’IA, les élus doivent mettre en place des lois édictant des règles prévisibles pour cet environnement médiatique de « moteurs de réponse » qui prévaut désormais.

Au nombre des enjeux qui résultent de la généralisation des moteurs de réponse et qui commandent des lois plus explicites, il y a le fait que les informations servant à « alimenter » plusieurs des réponses fournies de façon personnalisée sont produites, pour la plupart, par les médias disposant de journalistes qui travaillent selon des méthodes reconnues caractérisées par le souci de la vérification des faits et la rigueur. Le « pompage » des nouvelles par les moteurs de réponse nécessite que soient édictées des conditions afin d’assurer le financement pérenne de la production d’informations vérifiées.

Sinon, nous aurons, d’un côté, les médias producteurs d’informations vérifiées, qui en assument seuls les coûts de recherche et de confirmation, tandis que, de l’autre côté, les moteurs de réponse seront en position d’accaparer la plus grande part des revenus découlant de la vente de publicité ciblée dans les environnements en ligne.

La généralisation des moteurs de réponse met surtout à risque l’intégrité des délibérations démocratiques. Sans obligations de transparence, il est impossible de savoir comment ces dispositifs déterminent les « réponses » qu’ils produisent. C’est comme si l’on tolérait qu’un média publie des informations sans être tenu de nous dire d’où il les tient. Lorsque les moteurs de réponse sont dispensés de respecter des règles comme celles qui régissent les médias, les exigences de vérité, de vérifiabilité et de rigueur deviennent tributaires de la bonne volonté des entreprises qui les déploient. L’intégrité des processus délibératifs inhérents à une société démocratique est menacée.

En l’absence de lois imposant des obligations aux entreprises qui mettent ces outils à la disposition du public, nous sommes à la merci des choix technologiques d’entreprises qui ont pour priorité d’offrir du rendement à leurs actionnaires. Tant que ces outils ne font que faire des suggestions sur la couleur des flamants roses, on peut convenir que le risque couru par nos processus démocratiques est faible. Mais lorsqu’il s’agit d’informations qui concernent les délibérations sur des enjeux publics, les moteurs de réponse doivent être tenus à des obligations et responsabilités reflétant le fait qu’ils sont, pour plusieurs, des équivalents fonctionnels des médias.