Derrière les appels à la régulation, l’affrontement entre IA fermées et IA ouvertes
Par Olivier Lascar le Lecture 6 min. Abonnés
Alors que les géants américains de l'intelligence artificielle appellent à renforcer la régulation du secteur, la Chine mise sur des modèles ouverts, que chacun peut télécharger et modifier. Une différence technologique qui soulève des questions de sécurité, mais aussi de concurrence économique. Décryptage avec Laurent Daudet, directeur exécutif de l'IA à l'ENS.
DeepSeek, une IA chinoise, et un modèle ouvert.
Photo par KIRILL KUDRYAVTSEV / AFP
ENTRETIEN. Ils sont plus de 400 scientifiques à réclamer la création d'un organisme international chargé de superviser la sécurité des IA. Parmi eux, des pionniers de l'intelligence artificielle, comme Geoffrey Hinton et Yoshua Bengio. Cet appel entre en résonance avec celui des grands acteurs étatsuniens du secteur ! L’impérieuse recommandation d’Anthropic et d’OpenAI est de réguler l’IA. Ces sociétés sont, respectivement, les créatrices de Claude et ChatGPT. Point commun de ces IA : ce sont des modèles fermés. Autrement dit, un utilisateur n’a pas accès à leurs paramètres internes. Evidemment, cela n'empêche pas de tester son comportement. Un organisme indépendant de régulation pourrait soumettre à ces modèles des milliers de requêtes pour évaluer leur capacité à produire des instructions dangereuses ou à contourner certaines interdictions. Voire à faciliter des cyberattaques. C’est un peu comme éprouver les capacités d’une voiture : il est possible de vérifier qu'elle respecte des normes de sécurité sans connaître tous les secrets industriels de son constructeur. La certification porterait alors sur les comportements observables de l'IA, et non sur une connaissance exhaustive de son fonctionnement interne. La certification porterait alors sur les comportements observables de l'IA, et non sur une connaissance exhaustive de son fonctionnement interne, comme l’explique dans cet entretien avec Sciences et Avenir Laurent Daudet, directeur exécutif de l’IA à l’Ecole Normale supérieure (ENS).
Sciences et Avenir : Une IA comme DeepSeek, conçue en Chine, est dite “ouverte”. Qu’est-ce que cela implique ?
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.