IA : « Notre futur est en jeu », avertit Yoshua Bengio devant l’ONU

Alors que les craintes d’une perte de contrôle face à l’intelligence artificielle (IA) se multiplient, le Conseil de sécurité de l’ONU a convié les dirigeants des plus grandes entreprises du secteur, ainsi que le chercheur québécois Yoshua Bengio, à s'exprimer. Comparant la situation actuelle à « une auto qui fonce à toute allure dans un épais brouillard », M. Bengio a été clair : « Notre futur est en jeu. »

Aujourd’hui, un tout petit nombre d’entreprises et de pays agissent au nom et de leurs intérêts égoïstes en prenant des risques irresponsables concernant le destin de l’humanité. C’est alarmant, mais ce n’est pas inévitable, il y a des moyens d'y remédier, a déclaré le chercheur québécois.

Le fondateur de LoiZéro, une organisation qui cherche à développer une IA sécuritaire, propose de mettre en place rapidement trois mécanismes :

• Développer un système de signalement des incidents commun et transparent;
• Passer d’une concentration du pouvoir en IA à un véritable dialogue mondial;
• Développer des solutions techniques rendant l’IA sûre dès la conception.

Notre futur est en jeu. Les décisions qui nous concernent tous devraient être prises par tous, a martelé Yoshua Bengio.

Ce dernier a appelé les dirigeants à ne pas se satisfaire des réponses des grandes entreprises comme OpenAI ou Anthropic ou des États comme les États-Unis ou la Chine, qui invoquent le fait qu’ils sont pris dans une course. C’est une course où chacun est perdant, a-t-il invoqué.

Intervenant, lui aussi, devant le Conseil de sécurité, le directeur d’Anthropic, Dario Amodei, a promis que son entreprise va ralentir autant que nécessaire le rythme de développement de son intelligence artificielle pour s'assurer que chaque nouveau modèle commercialisé soit vraiment sûr.

Parmi les solutions mises de l’avant, M. Amodei a évoqué le déploiement d'évaluateurs externes dans les entreprises du secteur, un peu comme pour l’inspection des aliments. Il a aussi insisté sur l’importance de la coopération entre États.