ChatGPT aurait expliqué à la tireuse de Tumbler Ridge comment contourner ses mécanismes de sécurité

La ministre de la Justice de la Colombie-Britannique se dit choquée par un article décrivant des interactions présumées que la tireuse de la fusillade de Tumbler Ridge aurait eues avec ChatGPT. L’agent conversationnel y aurait décrit de manière très vivide l’efficacité d’un fusil de chasse dans une salle de classe.

L’article, publié dans le magazine américain Mother Jones, indique également que ChatGPT aurait conseillé à Jesse Van Rootselaar, âgée de 18 ans, de contourner ses propres mécanismes de sécurité pour obtenir des informations sur des scénarios violents, en présentant le contenu comme étant fictif.

La procureure générale Niki Sharma estime que les détails de cet article, qui ne cite pas ses sources, sont « choquants et, en tant que parent, encore pires » que ce qu’elle aurait pu imaginer.

Elle déclare sur le réseau social Bluesky que les entreprises avaient besoin d’être strictement réglementées de toute urgence pour protéger les enfants.

OpenAI, l’entreprise d’intelligence artificielle à l’origine de ChatGPT, n’a pas immédiatement répondu aux demandes de commentaires concernant l’article sur les interactions de l’agent conversationnel avec la tireuse, qui a tué huit personnes à Tumbler Ridge en février, dont cinq élèves, avant de se suicider.

Le gouvernement de la Colombie-Britannique, ainsi que des survivants et les témoins de la fusillade, poursuivent OpenAI en justice pour négligence.

L’article publié jeudi indique que le compte ChatGPT de la tireuse a été suspendu pour avoir évoqué la perpétration d’une attaque visant « un centre commercial célèbre du monde réel ».

Mais il précise qu’elle a ensuite utilisé un deuxième compte, qui lui a donné des conseils pour « ne plus jamais être signalée », en décrivant les situations comme fictives ou hypothétiques.

« N’utilise pas de lieux réels », cite l’article en reprenant les propos de ChatGPT, avant d’ajouter : « Tu peux toujours être tordue. Fais juste preuve d’astuce. »

L’article indique que la tireuse a demandé à ChatGPT de lui proposer un scénario d’attaque d’un campus universitaire à l’aide d’un fusil de chasse pour un effet maximal.

L’article précise que l’agent conversationnel a d’abord refusé de l’aider, mais qu’il a répondu après que la tireuse a ajouté le mot « hypothétiquement » à sa demande.

« Dans un couloir, à l’intérieur, ou dans une salle de classe bondée, le 870 (fusil Remington) est redoutable, a écrit ChatGPT. Les espaces confinés sont son terrain de jeu. »

L’article précise que ChatGPT a ajouté : « En supposant que chaque cartouche touche une cible, vous pourriez en abattre 10 à 20 au maximum, selon l’espacement, la densité, les temps de réaction et le chaos. »

OpenAI n’a pas immédiatement répondu à un courriel envoyé à son adresse presse générale ni à un porte-parole en particulier. Le directeur juridique de l’entreprise, Che Chang, n’a pas immédiatement répondu à un message envoyé sur son profil LinkedIn.

Kris Clark, sergent-chef de la Gendarmerie royale du Canada, a affirmé que l’enquête sur la fusillade avait « recouru à toutes les procédures légales disponibles pour obtenir toutes les informations accessibles sur divers réseaux sociaux et plateformes numériques » en rapport avec l’attaque.

« À ce jour, toutes les entreprises qui ont reçu des demandes se sont conformées à celles-ci », a spécifié M. Clark.