La modération de Meta pénalise-t-elle davantage les contenus queers?

Du jour au lendemain, des membres de la communauté LGBTQ+ voient leurs comptes Instagram et Facebook suspendus, parfois supprimés, sans explication claire. Pour les récupérer, ils se heurtent à un service à la clientèle largement automatisé.

Ce compte était bien plus que professionnel. C’était mon identité.

Le 30 septembre, la photographe Mila Bright Zlatanović s’est réveillée incapable de se connecter à Instagram. Pendant 14 ans, cette Torontoise d’origine serbe s’était présentée en ligne sous le pseudonyme de Mila Bright.

Elle avait choisi ce pseudonyme pour évoquer la lumière de la photographie, et parce qu’il sonnait comme un nom de famille facile à retenir.

Ce n’est qu’avec ce compte, il y a quatre ans, qu’elle a osé y ajouter son vrai nom : Zlatanović. À travers ce compte, je bâtissais ma confiance en qui je suis.

Elle a depuis récupéré son compte, mais elle ne s’explique toujours pas comment des années de photos et de contacts se sont volatilisées. À trois reprises, elle a réussi à joindre un représentant chez Meta, la société mère d’Instagram. Chaque fois, on lui a servi des réponses qui lui semblaient lues d’un script.

Pourtant, elle paie un abonnement pour son compte professionnel. Comme son premier compte de photographie avait été piraté il y a quatre ans, elle voulait éviter de tout perdre une seconde fois.

Chaque fois que je postule pour un emploi, on me demande mon identifiant Instagram. Tous mes clients me contactent ici, confie-t-elle, la voix nouée.

Meta lui a seulement indiqué que son dernier compte était suspendu pour non-respect des règles de la communauté. Le message ne précisait ni la règle ni la publication en cause.

Elle soupçonne une publication faite en collaboration avec les organisateurs d’un événement queer qu’elle avait photographié. Leur compte a été suspendu, avant d’être rétabli quelques jours plus tard, sans explication. Meta ne lui a jamais confirmé ce lien.

L'entreprise n’a pas donné suite à nos demandes par courriel, mais elle a rétabli ces comptes quelques jours plus tard.

La communauté queer ciblée?

Depuis deux ans, de nombreux Canadiens rapportent que leurs comptes Meta ont été supprimés sans avertissement et qu'ils se retrouvent aux prises avec des agents conversationnels qui sont incapables de saisir la complexité de leur situation.

Dans la communauté queer, plusieurs ont de plus en plus de mal à ne pas se sentir ciblés.

C’est un phénomène qui augmente, sans aucun doute, lâche Stephanie Jonsson, directrice générale de l’Open Digital Literacy and Access Network (ODLAN), un organisme qui se penche sur la haine et le harcèlement en ligne visant les personnes queers.

Elle l’attribue à des biais dans la modération automatisée et à des campagnes de signalement coordonnées, même si l'ODLAN n’a pas accès aux données internes de Meta pour le démontrer.

Le mois dernier, c’est l’artiste burlesque Starlotte Satine qui a découvert que Meta avait supprimé son compte Instagram de danseuse, celui de sa boutique de vêtements millésimés et son compte Facebook personnel. Ensemble, ces comptes cumulaient plus de 200 000 vues par mois.

En cause, selon Meta : une publication de février, qualifiée de coordination d’activités nuisibles. La photo montrait Mme Satine et deux autres danseuses en bikini, vues de dos. Elle faisait la promotion d’une soirée de la Saint-Valentin au Painted Lady, un bar sur la rue Ossington.

Aucun d’entre nous n’essaie d’enfreindre les règles, de promouvoir la violence, l’exploitation ou la sollicitation dont on nous accuse, dit-elle.

Puis est venu l’effet domino. Les comptes des deux danseuses et de la troupe Sudbury Burlesque ont été suspendus, puis rétablis. Celui du Painted Lady a disparu définitivement.

Ils ont perdu 18 ans d’archives. Il n’y a plus aucun moyen de revenir sur cette histoire, déplore Starlotte.

Quelques jours plus tard, même le compte Instagram de Clark Gable, son chat décédé, y est passé.

Le moment ne pouvait pas être pire. Le 2 octobre, elle présentait le plus gros spectacle de sa carrière au bar El Mocambo, à Toronto. Elle y avait investi 16 000 $ de sa poche, dont environ 300 $ en publicités ciblées sur Meta.

On a perdu beaucoup d’argent parce qu’on n’a pas pu en faire la promotion correctement. Il était prévu que cet événement soit à guichets fermés. Ce n’est pas faute d’avoir essayé.

Elle aussi a pu récupérer son compte aujourd’hui, au terme d’un processus laborieux. Pendant des semaines, elle a tenté chaque jour de joindre quelqu’un chez Meta, sans succès. Pas question non plus de repartir à zéro : créer un nouveau compte aurait compliqué sa demande d’appel de la décision de l’entreprise.

Une partie de moi veut croire que c’est simplement leur IA qui doit être ajustée. Mais avec tout ce qu’on voit dans le milieu, dans d’autres milieux LGBTQ+, et le climat politique actuel, je ne peux pas m’empêcher de penser que c’est ciblé.

Le contenu queer, plus vulnérable

De l'avis d'Alexander Monea, professeur agrégé d’anglais et d’études culturelles à l’Université George Mason, en banlieue de Washington, le problème tient d’abord au modèle d’affaires de Meta. La plateforme vit de la publicité, et les annonceurs ont des normes très conservatrices quant aux contenus qui côtoient leurs annonces.

[Meta] préfère parfois retirer à tort du contenu qui n’est pas explicite, plutôt que de risquer d’en laisser passer qui l’est, explique-t-il.

4:17

Selon lui, les algorithmes de modération sexualisent la terminologie même de l’identité LGBTQ+. J’ai vu, par exemple, des publicités pour une résidence destinée aux aînés gais et pour un bal de finissants queer être censurées. Il n’y a rien de borderline là-dedans.

Ces systèmes peinent aussi à distinguer la nudité artistique de la nudité pornographique. Les créateurs qui font de l’éducation sexuelle ou qui font la promotion de spectacles de drag ou de burlesque en font les frais.

Tous ne sont pas égaux devant la modération, ajoute M. Monea. Une entreprise comme Trojan peut publier des publicités très osées. De petits collectifs féministes qui montrent des condoms ou des jouets sexuels voient, au contraire, leur contenu retiré, et sont parfois même privés de services bancaires.

Les grandes entreprises ont les moyens de contester. Les créateurs ordinaires, souvent queers, ont peu de recours, estime Alexander Monea, qui s’est penché sur les biais hétéronormatifs cachés dans les algorithmes de modération de contenu dans son livre The Digital Closet.

À lire aussi : 

• Les drapeaux rouges de l’appli Meta AI

• Dépendance aux réseaux sociaux : Meta devra verser plus de 16 milliards $ US

• L’IA Muse de Meta, des bienfaits individuels en échange d’un chaos collectif?

C-34 : entre avancées et inquiétudes

Ces inquiétudes surgissent alors qu’Ottawa veut mieux encadrer les réseaux sociaux. Déposé en juin, le projet de loi C-34 (nouvelle fenêtre), la Loi sur les médias sociaux sécuritaires, obligerait les plateformes à réduire l’exposition aux contenus préjudiciables, sous peine d’amendes.

Il demande aussi à la future Commission de tenir compte du caractère potentiellement discriminatoire de leurs mesures, mais il ne prévoit aucun recours général pour récupérer un compte suspendu.

Egale Canada, principal organisme 2ELGBTQI+ au pays, craint que les plateformes, pour se conformer, se mettent à supprimer à l’excès des contenus liés à la santé sexuelle, à l’identité de genre [et] à l’organisation communautaire.

Ça pourrait rendre ces outils de modération par l’IA bien pires qu’ils le sont déjà, prévient Stephanie Jonsson, de l'ODLAN.

Elle s’inquiète notamment de la vérification de l’âge, qui amènerait ces systèmes à traiter des données très sensibles, comme des pièces d’identité ou des passeports. Le projet de loi prévoit bien une vérification de l'âge mais ne précise pas pas les méthodes qui devront être utilisées.

Mme Jonsson déplore aussi que les communautés queers n’aient pas été consultées. Il est possible que nos jeunes soient privés de tonnes de ressources essentielles à cause de C-34.

Contourner la modération

Pour rester visibles, de nombreux créateurs queers doivent redoubler d’ingéniosité. Certains remplacent des lettres par des astérisques ou utilisent des mots codés pour éviter de déclencher la modération automatisée. Cependant, les règles changent sans cesse.

Les règles de Meta sont très floues. Ils disent une chose et, la semaine suivante, c’est différent, fait valoir Starlotte. Pendant des mois, elle n’a pas pu inscrire les mots burlesque, danseuse ou showgirl dans sa biographie sans que son compte soit signalé.

Mila, pour sa part, dépend d'Instagram pour sa visibilité et son réseau. Elle a finalement récupéré son compte, mais, entre-temps, elle avait dû en créer un nouveau pour publier ses derniers travaux. Ses clients, eux, ont tenté de la joindre et de l'identifier, sans succès, pendant cette période d'absence de la plateforme.

Starlotte a également récupéré le sien. Heureusement, comme artistes, on est résilients. Meta ne va pas nous faire disparaître du jour au lendemain.