Déradicaliser les algorithmes

La réglementation européenne illustre le type de mesures que les autorités étatiques doivent prendre pour lutter contre les fléaux qui sévissent en ligne, comme les fraudes, le harcèlement, la xénophobie, le complotisme ou le masculinisme.

Le 6 novembre, la Commission européenne a conclu, à titre préliminaire, que TikTok enfreignait le règlement européen sur les services numériques (DSA) en raison de ce que l’on appelle l’« effet d’engrenage » (ou « rabbit hole effect ») de son système de recommandation. Le flux « Pour toi » de TikTok présente aux utilisateurs un flux continu de vidéos personnalisées, y compris lorsque celles-ci portent sur des difficultés liées à la santé mentale, à la « condition masculine » ou à l’image corporelle.

Plus un utilisateur interagit avec un certain type de contenu, plus l’algorithme du flux « Pour toi » lui en recommande d’autres de nature similaire. Ce fonctionnement peut s’avérer néfaste lorsque cette exposition ininterrompue et répétée concerne, par exemple, des contenus misogynes ou traitant de la tristesse, de l’isolement ou de l’image corporelle. Ces mécanismes d’« engrenage » peuvent avoir un effet préjudiciable sur la santé mentale des utilisateurs, en particulier celle des adultes vulnérables et des mineurs.

Ces constats de la Commission européenne résultent d’une enquête approfondie qui a procédé à l’analyse des rapports d’évaluation des risques, des données et documents internes de TikTok, de même que des réponses de l’entreprise à de multiples demandes d’informations. La Commission a aussi examiné les travaux de recherche scientifique sur ce sujet. Elle a consulté des experts issus de divers champs d’expertise, notamment celui des systèmes de recommandation, mais aussi de la psychologie et de la psychiatrie. Les conclusions de la Commission portent à la fois sur l’évaluation des risques et sur les mesures d’atténuation. L’entreprise visée par de telles démarches doit apporter des réponses. Elle peut aussi contester les constats de la Commission.

On ne freinera pas la progression des mouvances masculinistes et autres pratiques de harcèlement tant que les plateformes auront la faculté d’amplifier les contenus extrêmes et harcelants afin de maximiser leurs revenus.

Les algorithmes carburent aux données qui sont produites par chacun d’entre nous. Les exigences relatives à leur transparence sont un enjeu central de plusieurs aspects du fonctionnement des réseaux sociaux et de plusieurs autres espaces connectées. Qu’il s’agisse de la tarification dynamique, de la géolocalisation ou de la reconnaissance faciale, les algorithmes permettent notamment d’optimiser l’engagement des individus afin de les garder en ligne le plus longtemps possible. Le lien entre le fonctionnement des algorithmes et plusieurs des fléaux régulièrement dénoncés sur les réseaux sociaux est de plus en plus évident.

Par exemple, la Délégation aux droits des femmes et à l’égalité des chances du Sénat français a entrepris d’examiner la montée des mouvements masculinistes. Ce comité sénatorial s’intéresse notamment au rôle massif que jouent les réseaux sociaux — et leurs algorithmes — et d’autres plateformes numériques dans la diffusion et la banalisation des idéologies masculinistes, notamment auprès des jeunes.

Le 29 octobre dernier, dans le cadre de l’étude sur la montée des dérives masculinistes, la professeure Léa Clermont-Dion, de l’Université de Sherbrooke, a expliqué aux sénateurs français que le masculinisme n’est pas un simple phénomène d’influenceurs qui se répandent en propos misogynes. C’est une idéologie structurée qui remet en question les avancées du droit à l’égalité des femmes. Ce courant, à l’instar de plusieurs mouvements extrémistes, bénéficie d’audiences dopées par la puissance des algorithmes des plateformes numériques.

On peut évidemment appeler à plus d’éducation et mieux outiller les individus afin de promouvoir des interactions plus saines sur les réseaux sociaux. L’éducation aux médias sociaux est certes une condition nécessaire pour lutter contre ces fléaux, mais elle n’est pas suffisante.

La régulation des algorithmes est un enjeu qui concerne aussi bien les fléaux du harcèlement en ligne que la diffusion virale de propos haineux ou de pratiques frauduleuses. Mais comme le fonctionnement des algorithmes paraît abstrait pour la plupart des gens, il est rarement discuté dans les débats publics.

Dans beaucoup de milieux, la dépendance aux réseaux sociaux est abordée comme un problème qui concerne les individus. C’est pourtant le résultat du fonctionnement des algorithmes calibrés afin de maximiser l’engagement des individus pour ensuite leur pousser des publicités. Pour prévenir les dérives désormais documentées des réseaux sociaux, il faut exiger que les plateformes expliquent le fonctionnement de leurs algorithmes et, le cas échéant, en changent les aspects qui engendrent les problèmes comme ceux que les enquêteurs européens pointent du doigt.

En organisant la circulation des informations, les algorithmes peuvent, selon différents paramètres, montrer ou cacher des messages, en amplifier ou en entraver la circulation. Lorsque les États se résignent à ne pas intervenir à leur égard, ils font le choix d’abdiquer leur souveraineté au bénéfice des entreprises qui possèdent les plateformes.

Pour agir à l’égard de la plupart des fléaux d’Internet, les autorités étatiques doivent réguler les processus fondés sur des algorithmes. Cela suppose d’obliger les entreprises qui les utilisent à garantir qu’ils fonctionnent en conformité avec les exigences des lois étatiques et les droits fondamentaux.

Pour limiter les dérives, il faut rapidement agir dans le sens des actions prises par les autorités européennes et d’autres gouvernements et mettre en place un cadre régulateur à la mesure des problèmes que posent ces procédés algorithmiques si puissants. Sinon, il faudra se préparer à payer pour les dégâts engendrés par la détresse induite par les algorithmes des plateformes en ligne.