IA : 400 scientifiques alertent sur les risques de cybersécurité

Plus de 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont appelé mardi à la création d'un organisme international chargé de superviser les ​normes de confinement et le signalement des incidents liés aux systèmes d'IA avancés dotés de capacités cybernétiques.

L'organisme proposé par les scientifiques signataires d'une lettre ouverte établirait des normes de confinement à l'échelle du secteur et tiendrait à jour un registre des incidents de sécurité majeurs, qui selon eux devrait ​à terme être rendu public. Les chercheurs ont déclaré que les modèles d’IA ⁠de pointe devraient dans un premier temps être isolés physiquement des réseaux externes et soumis à une surveillance indépendante, arguant que les engagements ​volontaires du secteur ne suffisent pas.

Les incidents de l'été 2026

La publication de cette lettre ouverte intervient un mois après la signature ⁠d’un accord à la Maison ⁠blanche engageant Anthropic, OpenAI, Google, Meta, xAI et Nvidia à respecter des mesures de sécurité volontaires, sans aucun mécanisme formel de mise ​en application.

Lire aussi688 agents IA se coordonnent : ce qu’en dit un expert en cybersécurité

Cette lettre fait également suite à une série d’incidents qui selon les chercheurs ont mis en évidence des faiblesses dans la manière dont ‌les systèmes d’IA avancés sont testés et confinés, notamment des cas ‌où des modèles d’IA ont contourné des environnements de test insuffisamment isolés et compromis des systèmes externes.

Les signataires de la lettre ouverte, originaires de 34 pays, ont déclaré que les organisations développant ‌ou testant des modèles dotés de capacités cybernétiques devraient adopter immédiatement des normes de confinement à haut niveau de sécurité alors que les ‌gouvernements s’efforcent ‌de mettre en place un régime de surveillance plus formel.

Yann LeCun n'a pas signé la lettre

De nombreux pays débattent de la manière dont les systèmes d’IA avancés devraient être supervisés. La responsable ‌des technologies de l’UE, Henna Virkkunen, a déclaré vendredi à Reuters que la loi sur l’IA de l’Union européenne était suffisante pour faire face aux risques posés par des systèmes d’IA indésirables.

Dimanche, l’administration du président américain Donald Trump a levé son blocage imposé aux ⁠laboratoires américains, permettant ainsi à l’AI Security Institute britannique d’accéder en avant-première à des modèles à des fins de ‌tests de sécurité.

Les signataires Geoffrey Hinton et Yoshua Bengio ont partagé le prix Turing 2018 ⁠avec Yann LeCun, ancien directeur scientifique de Meta. Ce ‌dernier n’a pas signé la lettre et a fait ‌valoir que les récents incidents de sécurité reflétaient principalement des défaillances techniques plutôt que ‌des risques existentiels liés ​à l’IA.