Tuerie de Tumbler Ridge : la plateforme Discord est mise en cause à son tour

La tireuse à l'origine de la tuerie de Tumbler Ridge, en Colombie-Britannique, et James Cody Bryant, l’individu accusé de l’avoir aidée à planifier l’attaque, auraient échangé sur la plateforme Discord pendant plusieurs mois, selon des documents judiciaires. Cela pose de nombreuses questions sur le signalement des discussions violentes sur Internet.

ChatGPTest déjà dans le viseur (nouvelle fenêtre) depuis les révélations selon lesquelles le robot conversationnel aurait aidé la tireuse à planifier l’attaque. Des survivants et des familles de victimes, ainsi que le gouvernement de la Colombie-Britannique, ont d’ailleurs déposé des poursuites à l’encontre d’OpenAI, la maison mère de ChatGPT.

Avertissement : cet article contient des détails susceptibles de heurter la sensibilité du public.

Mardi, le FBI a indiqué que James Cody Bryant fait face à des accusations de complot en vue de commettre des meurtres dans un pays étranger. Dans l’acte d’accusation, on peut lire certains échanges que l’individu a eus sur Discord avec Jesse Van Rootselaar. Il y est question du choix du lieu de l’attaque, du choix des armes ou encore de la façon de retransmettre en direct les agissements de la tireuse.

Discord précise que les échanges entre les deux individus incluaient des discussions au sujet d’armes, de vol de munitions, de la construction de dispositif incendiaire, du choix de cibles, de la logistique en vue de diffuser l’attaque en direct, et la coordination lors du jour de l’attaque.

Des photos d’armes qu’aurait utilisées Jesse Van Rootselaar ont aussi été partagées sur Discord, qui précise que les discussions ont eu lieu dans un espace d’échange privé entre les deux individus seulement .

Atteinte à la vie privée

Selon Heidi Tworek, professeure d’histoire internationale et de politique publique à l’Université de Colombie-Britannique, les derniers développements liés à cette tragédie révèlent un phénomène de longue date et plus large d’utilisation des plateformes pour coordonner des actes de violence.

Mme Tworek indique que les plateformes de réseaux sociaux n’ont pas d’obligation générale de signalement aux forces de l’ordre pour différents types de contenus préjudiciables publiés par les utilisateurs.

Selon elle, cela s’explique par des craintes liées à un signalement excessif et à une surveillance potentielle des groupes et des individus vulnérables.

Emily Laidlaw, titulaire d’une chaire de recherche du Canada en droit de la cybersécurité à l’Université de Calgary, dit que la réglementation des plateformes de messagerie privées est controversée en raison des craintes qu’elle ne porte atteinte à la vie privée.

Certaines plateformes sont soumises à des obligations en matière de contenus pédopornographiques, mais, pour les contenus problématiques, comme ceux impliqués précisément dans l’affaire de Tumbler Ridge, il n’y a pas d’obligation de signalement, explique-t-elle.

Il est clair que ce à quoi nous avons assisté ici constitue un manquement, et que les faits auraient dû être signalés à la police, reconnaît-elle cependant.

Discord se défend

Selon les documents judiciaires, ce n’est qu’après le drame que Discord a identifié le compte de la tireuse et que la plateforme a partagé le contenu des échanges avec le FBI.

À la suite de notre enquête, nous avons communiqué de manière proactive les informations pertinentes aux forces de l'ordre et avons supprimé le compte du suspect pour violation de nos politiques, a déclaré un porte-parole de Discord dans un communiqué, mercredi. Nous continuerons à travailler en étroite collaboration avec les autorités tout au long de l'enquête.

Discord condamne fermement la violence et applique une politique de tolérance zéro envers toute personne qui soutient, encourage ou commet des actes violents.

700 millions d’utilisateurs

Selon Mathieu Colin, directeur scientifique de la Chaire UNESCO en prévention de la radicalisation et de l’extrémisme violent, Discorda une modération qui est régulièrement pointée du doigt.

La modération de Discord se base sur une sorte de bénévolat des personnes membres et sur une surveillance via des outils d’IA, ce qui, manifestement, ne suffit pas à endiguer certains types de contenus, surtout lorsqu’il s’agit de discussions entre deux personnes, explique M. Colin.

Discord, c’est quand même 700 millions d’utilisateurs, 250 millions environ qui sont actifs, souligne-t-il.

Mathieu Colin ajoute que les parcours de radicalisation sont durs à prévoir, parce qu’il n’en existe pas de parcours type, ou de profil type, explique-t-il. Dans le cas d’une conversation seul à seul, cela pose des questions liées à la vie privée.

Distinguer ChatGPT et Discord

Mercredi, David Eby, premier ministre sortant et chef du Nouveau Parti démocratique, a dit que les avocats du gouvernement examineraient la plainte déposée contre James Cody Bryant. Il a ajouté qu’il fallait imposer aux entreprises technologiques l’obligation légale de signaler les actes répréhensibles :« Elles ne feront pas et n’ont pas fait ce qu’il fallait. »

David Eby a également fait une distinction entre la plateforme Discord, qui a permis des échanges entre les deux individus, et le robot conversationnel ChatGPT, qui aurait prodigué des conseils à la tireuse afin de mener à bien la tuerie.

Dan Brunner, agent spécial du FBI à la retraite, tient lui aussi à faire la distinction entre les deux, notant qu’il peut être difficile de surveiller des conversations entre les individus sans empiéter sur des questions de violation de la vie privée.

Nous devenons un État [...] où l'on surveille toutes les communications de chaque utilisateur sur toutes les plateformes de réseaux sociaux, quel que soit l'appareil utilisé… Je pense que c'est une pente très dangereuse sur laquelle on s'engage, dit-il.

Un appel à la réglementation

David Eby a également souhaité qu’Ottawa prenne ses responsabilités et impose une réglementation minimale, pas seulement vis-à-vis d’OpenAI, mais vis-à-vis de toutes les entreprises de réseaux sociaux, de toutes les entreprises d’IA.

Le ministre fédéral de la Sécurité publique, Gary Anandasangaree, a dit mercredi que les informations contenues dans la plainte du FBI étaient plutôt scandaleuses et très inquiétantes.

Cela soulève des questions plus larges concernant l’utilisation des réseaux sociaux et la collaboration en ligne, des questions auxquelles nous essayons, je pense, d’apporter une réponse avec le projet de loi C-34, a-t-il dit aux journalistes à Ottawa, en référence au projet de loi sur la sécurité en ligne.

Questionné sur la question de savoir si Discord devrait être concerné par cette législation, M. Anandasangaree a répondu que la loi créerait un organisme indépendant chargé de prendre ce genre de décisions.

Avec des informations de La Presse canadienne, Andrew Kurjata, Courtney Dickson, Ian Hanomansing et l’émission Panorama