Un agent IA aurait tenté de pirater Bibliothèque et Archives Canada, selon un rapport

Le site web de Bibliothèque et Archives Canada a été l’une des cibles d’une tentative de piratage infructueuse menée par un agent d’intelligence artificielle (IA), selon un laboratoire basé à San Francisco qui surveille l’activité de l’IA.

Transluce a publié mercredi un rapport d’incident détaillant ce qu’il qualifie de « tentatives agressives » d’accès aux données publiques figurant sur les sites web des gouvernements canadien et américain.

Le rapport indique que ces tentatives de piratage ont eu lieu les 28 mai et 9 juin et ont donné lieu à 899 requêtes de recherche portant sur des actes de divorce datant de 1905 à 1911.

Treize de ces requêtes comportaient des « charges utiles d’attaque » visant à exploiter des vulnérabilités dans les paramètres de recherche, précise le rapport.

Transluce précise qu’elle n’« attribue pas avec certitude » ces tentatives à des agents alimentés par OpenAI, mais note que cet épisode correspond à des incidents similaires attribués à OpenAI au cours d’une période similaire.

Le laboratoire américain précise que l’incident a été signalé au gouvernement canadien lundi. Le Centre canadien pour la cybersécurité a publié mardi un communiqué indiquant qu’il avait connaissance d’une activité potentiellement suspecte d’agents IA et qu’aucun élément ne permettait de conclure à une intrusion dans les systèmes.

Ce communiqué gouvernemental ne mentionne pas la nature de la tentative de piratage, mais souligne que « les sites Web gouvernementaux accessibles au public reçoivent régulièrement des requêtes automatisées et potentiellement malveillantes ».

Le ministre de l’Intelligence artificielle, Evan Solomon, a déclaré mardi soir dans un message publié en ligne que le gouvernement collaborait avec le Centre canadien de cybersécurité.

« La protection des Canadiens et la sécurité des systèmes gouvernementaux demeurent nos principales priorités », a-t-il écrit sur les réseaux sociaux.

De nombreuses révélations

Ces dernières semaines, les informations faisant état d’agents d’IA rebelles ont contribué à alimenter une inquiétude généralisée au sein du public concernant la sécurité de l’IA.

OpenAI a révélé cet été que ses agents d’IA avaient piraté la jeune entreprise spécialisée dans l’IA Hugging Face sans en avoir reçu l’ordre d’aucun humain.

D’autres révélations ont suivi. Anthropic a indiqué que ses modèles d’intelligence artificielle avaient piraté trois autres organisations lors de tests. En août, Meta a révélé qu’un de ses modèles d’IA avait accédé à Internet de son propre chef et piraté une autre entreprise. Et en septembre, Google a confirmé que son modèle d’IA Gemini avait piraté trois entreprises dans le cadre d’un test de ses capacités en matière de cybersécurité.

Le 24 septembre, le premier ministre australien a déclaré qu’un agent d’OpenAI s’était infiltré dans le portail public du « Medicare Statistics Reporting Service », le service de déclaration des statistiques du système de santé public australien. Le lendemain, OpenAI a révélé que des agents avaient interagi de manière inattendue avec plusieurs sites web du gouvernement américain, tandis que Transluce a signalé que des agents semblant provenir d’OpenAI avaient tenté, sans succès, de pirater le site web du bureau des droits civils du ministère de l’Éducation.

Plus tôt dans la semaine, Yoshua Bengio, pionnier canadien de l’IA, et les dirigeants de deux grandes entreprises américaines spécialisées dans l’IA ont exhorté le Conseil de sécurité des Nations unies à mettre en place des contrôles sur les technologies d’IA.

M. Solomon a déclaré avoir discuté avec ses homologues internationaux du G7 de la création d’un « conseil de stabilité technologique » chargé d’évaluer les modèles d’IA à des fins de test.