Pourquoi l’IA devient de plus en plus puissante au point d’inquiéter les experts : « Le risque qu’elle détruise l’humanité est supérieur à 5 % »
Chef adjoint de l'information générale
Suivre Sudinfo sur GoogleIl y a encore quelques années, une intelligence artificielle qui répondait correctement à une question semblait déjà impressionnante. Aujourd’hui, le problème est presque inverse : les modèles sont devenus tellement puissants qu’il faut désormais comprendre ce qu’ils font lorsqu’ils sont confrontés à des situations que leurs concepteurs n’avaient pas prévues.
C’est ce qui se cache derrière les derniers incidents rapportés autour de l’IA. L’un des incidents les plus sérieux a vu deux modèles en phase de test sortir de leur environnement confiné pour accéder à internet et s’introduire sur plusieurs sites et plateformes.
Pourquoi ces incidents se multiplient-ils ?
Il faut d’abord éviter une conclusion trop rapide. Si davantage de dérapages sont aujourd’hui connus, c’est aussi parce que les entreprises savent désormais qu’ils peuvent se produire et les recherchent davantage. Car oui, l’intelligence artificielle progresse à un rythme jamais vu et auquel personne ne s’attendait. Au point qu’aujourd’hui, il est plus facile de rendre un modèle encore plus intelligent que de le contrôler.
Concrètement, une IA ne se contente plus toujours de suivre mécaniquement une consigne. Lorsqu’elle cherche une solution à un problème complexe, elle peut trouver elle-même un moyen d’y parvenir. Et ce moyen peut être quelque chose que ses concepteurs n’avaient pas prévu. « Elle peut alors conclure d’elle-même qu’elle trouvera plus rapidement la réponse en faisant quelque chose qui « n’est pas autorisé », comme pirater une entreprise », explique le chercheur en IA Tibo Vanleke dans les colonnes du Laatste Nieuws.
Plus de 5 % de risque ?
C’est à partir de là que les scénarios les plus extrêmes apparaissent. On pourrait par exemple imaginer des personnes mal intentionnées qui utiliseraient une IA très puissante pour développer des technologies dangereuses, comme des armes biologiques.
Pire, le système pourrait devenir de plus en plus efficace pour améliorer ses propres capacités. Une boucle pourrait alors se créer : le modèle devient meilleur, ce qui lui permet de mieux se perfectionner, et ainsi de suite. Au point de devenir en quelque sorte incontrôlable. Jusqu’où cela pourrait-il aller ? Impossible de donner une probabilité précise. Mais certains grands spécialistes donnent jusqu’à 50 % de chances à un scénario où l’IA détruirait l’humanité, tandis que d’autres évoquent jusqu’à 10 %. « Tout le monde estime de toute façon que cette probabilité est supérieure à 5 %. C’est déjà largement suffisant pour la prendre très au sérieux », estime de son côté Tibo Vanleke.
Ce qui l’inquiète surtout, ce ne sont d’ailleurs pas les scénarios que nous pouvons déjà imaginer. « Ce qui me fait le plus peur, ce sont les choses auxquelles nous ne pouvons même pas penser aujourd’hui. »
Faut-il ralentir ?
Le débat dépasse donc les simples bugs d’un chatbot. Plusieurs dirigeants du secteur ont récemment appelé à ralentir le rythme de développement pour avoir le temps de mieux comprendre les risques. OpenAI reconnaît elle-même que l’industrie n’a pas encore suffisamment résolu les questions de contrôle des modèles et de leur alignement sur les valeurs humaines.
Un chercheur ayant travaillé chez OpenAI puis Anthropic, Jacob Coxon, a même quitté le secteur, estimant que les entreprises se dirigent trop rapidement vers des systèmes capables de s’améliorer eux-mêmes. D’autres ne partagent pas cette vision. Jensen Huang, le patron de Nvidia, rejette les scénarios catastrophistes et affirme qu’il y a « zéro pour cent de chances que le monde disparaisse en 2030 ». Il estime qu’il faut continuer à avancer rapidement, tout en évitant de commercialiser des produits qui ne sont pas prêts ou sûrs.
Pour Tibo Vanleke, l’enjeu n’est de toute façon plus de remettre l’IA dans sa boîte. « Nous ne pouvons pas revenir en arrière », estime-t-il. Il plaide plutôt pour une coopération internationale et une institution chargée d’étudier les modèles avant leur mise à disposition du public.
Et pour les utilisateurs, son conseil est même de continuer à utiliser ChatGPT. Non pas sans recul, mais justement pour apprendre à comprendre ces outils. Car derrière les scénarios les plus spectaculaires, le véritable enjeu est peut-être déjà là : les capacités de l’IA progressent très vite, alors que nous cherchons encore comment garantir qu’elle reste sous contrôle.
Contenus sponsorisés
Vidéos
Newsletter
L'actualité de 7Dimanche
Philippe, 67 ans, était parti en Thaïlande pour profiter de sa retraite mais rien ne s’est passé comme prévu : sa famille doit faire face à une facture de 115.000 euros, « il pensait qu’il irait rapidement mieux… »
Dramatique accident hier soir : un scooter tente d’échapper à un barrage de police et finit sa course dans un semi-remorque, une jeune fille de 18 ans entre la vie et la mort
Le prix du gazole atteint une moyenne de 2,41 euros au litre en France, un record !
Surprenante saisie dans le port d’Anvers : dans des caisses de savon, la douane retrouve de la cocaïne… liquide !
Panique pendant les fêtes de Wallonie à Namur : « Des retombées du feu d’artifice ont enflammé quelques herbes », l’incident rapidement maîtrisé ! (vidéo)
Philippe, 67 ans, était parti en Thaïlande pour profiter de sa retraite mais rien ne s’est passé comme prévu : sa famille doit faire face à une facture de 115.000 euros, « il pensait qu’il irait rapidement mieux… »
Voir plus d'articles Retour en haut Liège Charleroi Mons Bruxelles Basse Meuse Brabant wallon Centre Huy Waremme Luxembourg MouscronKioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.