« La destruction de l’humanité... » : l’un des pères de l’IA alerte sur les dangers de la technologie !
Suivre Sudinfo sur Google
Yoshua Bengio est considéré comme l’un des pères de l’IA. Dans un entretien à l’AFP, il juge que l’humanité est en train de perdre le contrôle et appelle à la mise en place de « garde-fous » face à un « enjeu international ».
Le débat sur les risques de l’IA est monté en puissance depuis le début de l’été, alimenté par une série d’incidents et des déclarations apocalyptiques de plusieurs professionnels du secteur. Plusieurs modèles d’IA d’OpenAI et Anthropic sont notamment sortis spontanément de leur milieu confiné pour se rendre sur Internet et faire intrusion sur différents sites et plateformes.
« Ce n’est pas pour rien que les compagnies disent que ça va trop vite, on perd le contrôle », souligne le chercheur canadien Yoshua Bengio, lauréat en 2018 du prix Turing, l’équivalent du Nobel pour l’informatique, avec Geoffrey Hinton et Yann LeCun.
« Les gens comme moi, on s’attendait à ça depuis longtemps », ajoute ce professeur à l’université de Montréal, regrettant que « les enjeux de sécurité ne so(ie)nt pas au centre aujourd’hui, comme ils devraient l’être ».
Au coeur du « danger », les « IA autonomes », c’est-à-dire les agents qui peuvent « effectuer une tâche par eux-mêmes et donc choisir comment l’effectuer », et qui ont « les capacités de passer à travers les barrières de cybersécurité et de rentrer dans n’importe quelle entreprise », détaille-t-il.
Persuasion
Yoshua Bengio, qui a fondé l’an dernier la startup à but non lucratif LoiZéro pour développer des systèmes IA éthiques, met aussi en garde contre « la capacité de l’IA à établir un lien individuel et à persuader des humains d’agir dans le sens qui l’arrange mais qui n’est pas forcément bon pour nous tous », ce qui serait susceptible d’avoir des « impacts sur la démocratie, » par exemple.
Des pays pourraient aussi, selon lui, décider de l’utiliser « pour dominer d’autres pays », économiquement, militairement ou en influençant l’opinion publique.
Et, à plus long terme, « l’IA n’aurait peut-être même plus besoin des êtres humains pour faire de vraies choses dans le monde physique ». Et dans ce contexte, « oui, un extrême pourrait être la destruction de l’humanité », alerte-t-il dans un entretien mené mardi en français.
« C’est un extrême », reconnaît-il, mais si « c’est juste le système bancaire qui est foutu par terre, c’est quand même très très grave ».
« Enjeu international »
Mais dans ce contexte, comment ralentir ?
« C’est un enjeu international, un peu comme les armes nucléaires sont un enjeu international. Donc il faut que la communauté internationale comprenne le pouvoir qu’on est en train de mettre au monde et qu’il faut gérer, qu’il faut gouverner » au travers « d’institutions, de traités et de garde-fous démocratiques », insiste-t-il.
Mais « la société a besoin de temps pour mettre en place ce qui doit être mis en place », ajoute le chercheur, plaidant pour un ralentissement du développement de cette technologie.
Le monde est toutefois divisé. Donald Trump a ainsi qualifié lundi de « canular » l’hypothèse selon laquelle l’IA pourrait anéantir l’humanité. L’Union européenne a au contraire dit mercredi qu’elle allait réunir des grands acteurs du secteur afin de soutenir les efforts visant à ralentir le développement des modèles les plus risqués.
La startup de Yoshua Bengio va pour sa part travailler « main dans la main » avec les gouvernements canadien et allemand qui lui ont attribué mercredi un financement de 300 millions de dollars canadiens (187 millions d’euros) pour travailler au développement d’une IA « sûre ».
Dans le cadre d’une gouvernance de l’IA, « il faut que les mêmes règles s’appliquent à toutes les entreprises dans un pays, surtout les Etats-Unis » parce que les acteurs « principaux y sont », comme OpenAI ou Anthropic. Ces deux géants de l’IA ont annoncé mardi travailler avec Google DeepMind à la création d’un organe de supervision des risques, un projet critiqué.
En dépit de « l’urgence », Yoshua Bengio se veut toutefois optimiste. « On peut aider à amener le monde dans un endroit qui est plus aligné avec les valeurs démocratiques et de partage de pouvoir » et « fabriquer des IA qui ne seront pas dangereuses par leur nature », dit-il.
Contenus sponsorisés
Nos incontournables
Le mystérieux relevé téléphonique de Bryan : voici ce que révèle la liste des derniers appels sur le GSM du papa de Tyméo
Lutte contre l’IPTV illégale en Belgique : voici la liste noire du gouvernement, découvrez si vous êtes concerné !
Le GSM de Bryan retrouvé : du nouveau dans la disparition de Tyméo et de son papa, le parquet communique plusieurs avancées !
« Il n’aurait jamais abandonné son fils » : les anciens collègues du Colruyt de Liège brisent le silence sur Farid alias « Fred », retrouvé coulé dans le béton sous sa terrasse
Grégory, ami d’enfance de Jordan, l’attendait à l’église pour célébrer son mariage : « On a appris qu’il y avait eu un accident, et puis… »
Hadija, professeure dans une école belge, virée pour avoir refusé de retirer son foulard : « Tout ce que j’ai construit a soudainement disparu »
« La Wallonie n’a pas manqué d’argent public, elle a manqué de résultats » : Pierre-Yves Jeholet défend « des réformes indispensables »
Voir plusVidéos
Nos partenaires vous proposent
Technologies
« Les gens ne voudront pas… » : la réponse de Mark Zuckerberg après les multiples appels à ralentir le développement de l’IA
Voici la nouvelle stratégie de la Belgique pour accélérer et encadrer le déploiement de l’IA !
Test – AOC AG326UZD2 : un écran qui en met plein les yeux, mais pas tout à fait sans défaut
Un « gendarme » de l’intelligence artificielle bientôt créé par OpenAI, Google et Anthropic ?
Microsoft balaie les craintes d’une dérive de l’IA et s’engage à ce que les humains contrôlent son outil
« Les gens ne voudront pas… » : la réponse de Mark Zuckerberg après les multiples appels à ralentir le développement de l’IA
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.