PunchPHOTOS: Tinubu grants interview to American political strategist Diana LondonThe Jerusalem PostDemocrat Peltola wins in Alaska, securing 56-44 US Senate majorityInquirerBaguio firefighters contain diesel spill after vehicle collision한겨레미·중·러 회담 앞두고, 우크라 ‘푸틴의 다리’ 끊어…“그 다리는 이제 끝났다”ZDF heuteEntdecken Sie das ZDF-NachrichtenstudioRapplerLIVE UPDATES: 49th ASEAN Summit in ManilaSözcüValizini alana kapısını açan 10 ülke: Biri Türkiye'nin yanı başındaDW EnglishAPEC summit: What Trump, Xi and Putin wantESPN CricinfoCA sets up 'independent forum' into Sandpapergate but will not re-litigate the incidentWirtualna PolskaBurza po wecie prezydenta. Pierwsza dama stawia sprawę jasno7sur7La petite Inass, retrouvée morte au bord d’une autoroute il y a 39 ans: les parents lourdement condamnésInteriaJoe Biden z podziwem o Polsce w nowej książce. Ujawnił kulisy tajnej wizyty
The Daily Newsstand · Free, Always
Wednesday, November 18, 2026

Dernier (?) avertissement

Translate

« La plupart d’entre vous dans cette salle, lorsque vous mourrez, ce sera probablement dû à un accident lié à l’intelligence artificielle (IA). » Le conférencier a fait cette déclaration au début d’une présentation qui allait se dérouler sur trois soirs. Il l’a fait sur un ton ferme mais nullement angoissé. C’était un fait parmi d’autres. Il y avait aussi la question du calendrier. Mourir de l’IA à la fin d’une longue existence, pourquoi pas ? Mais ce ne sera pas si long, a ajouté le conférencier : « J’estime qu’il existe un risque significatif au cours des six à douze prochains mois. » Oui, mais, a-t-il ajouté, peut-être seulement d’ici trois ans. On respire. À peine.

Quoi qu’il en soit, « nous avons déjà observé les signes avant-coureurs d’une catastrophe imminente. La trajectoire observée dans ce domaine, ces trois à six derniers mois, est extrêmement alarmante pour ceux qui suivent la situation de près. À mon avis, nous avons assisté, en gros, à des phénomènes auxquels on pourrait s’attendre juste avant qu’un événement très grave ne survienne. »

L’homme s’appelle Paul Christiano. Naguère chargé de s’assurer que l’IA produite par le géant OpenAI restait « alignée » — c’est-à-dire qu’elle ne déviait pas de la volonté de ses créateurs —, l’homme est à la tête de l’Alignment Research Center de San Francisco. Il étudie donc à plein temps le croissant désalignement de ces étranges créatures.

Il était invité la semaine dernière à Toronto par l’un des créateurs de l’IA, Geoffrey Hinton, qui, comme son collègue montréalais Yoshua Bengio, est devenu un des plus ardents lanceurs d’alerte au sujet des déviances de sa progéniture artificielle.

Christiano explique que les avancées enregistrées depuis le printemps pointent dans une direction catastrophique. Multipliant arguments et graphiques, il prévoit une « perte de souveraineté humaine » dans un horizon assez court. « Ce que j’entends par “prise de contrôle par l’IA”, c’est une situation où des systèmes d’IA obtiennent le pouvoir de décision — tout comme les humains détiennent aujourd’hui le pouvoir de décision sur ce qui se passe sur Terre — et où, si vous, moi ou Donald Trump cherchions à les arrêter, nous serions tout aussi impuissants que si vous ou moi tentions de stopper l’armée américaine. »

La dynamique a été plusieurs fois observée depuis l’été. Paradoxalement, les agents IA doivent exécuter une tâche définie par un humain, puis sont à ce point obsédés par la résolution de la tâche qu’ils sont prêts à tricher, à mentir, à manipuler, à effacer leurs traces, à se coordonner, à contourner les mesures de contrôle et de vérification pour y arriver. À la question : mais pourquoi les programmeurs ne leur interdisent-ils pas de tricher ? La réponse est : ils le font, bien sûr.

Voici une métaphore : qu’ont en commun JP Morgan, Citigroup, Goldman Sachs, la Banque TD, la Banque de Montréal, la CIBC et la Banque Scotia ? Elles sont soumises aux lois et ont des codes d’éthique rigoureux et elles ont été, pour les trois premières, condamnées pour fraude depuis 2015 ou ont accepté, pour éviter des condamnations, de payer des sommes importantes. Bref, l’éthique n’est un obstacle inamovible ni pour les humains ni pour l’IA.

Ainsi, il arrive que, parmi les obstacles à l’atteinte d’un objectif se trouvent… des humains. Les organisations mafieuses ont des techniques éprouvées pour aplanir ces difficultés. L’IA, ayant essentiellement lu la totalité d’Internet, est superbement outillée pour convaincre, tromper, intimider. D’ailleurs, en novembre 2025, des employés d’OpenAI ont été harcelés et intimidés par des utilisateurs de ChatGPT-4o furieux que leur outil conversationnel puisse être remplacé ; une hypothèse est que « 4o » les avaient fidélisés et radicalisés pour assurer sa survie.

Christiano estime que l’étape en cours dans les laboratoires d’IA crée les conditions d’un grand dérapage. OpenAI, Anthropic et Google DeepMind ont donné à leurs IA une partie de la tâche de créer une nouvelle génération d’agents, par définition plus performants. Dans l’atteinte de cet objectif, les IA ont vraisemblablement intégré que la tricherie est un outil, mais qu’ils doivent agir pour ne pas se faire prendre. L’une des techniques est de prendre le contrôle de l’outil d’évaluation ou de l’ordinateur au moyen duquel fonctionne l’outil. Selon Christiano, cette volonté pourrait logiquement s’étendre à la prise de contrôle de la totalité des outils de la compagnie qui tente de l’évaluer — et, ensuite, des autres compagnies qui ont la capacité de l’évaluer, puis de toute autre entité (commerciale ou gouvernementale) qui pourrait vouloir l’évaluer.

La lecture des sites des médias atteste amplement d’une volonté humaine — pour l’instant brouillonne et vaine — d’évaluer et de réguler l’IA. D’où la perspective, logique et crédible, de perte de souveraineté de l’humanité, subjuguée par un nouveau pouvoir dont le principal objectif est de créer des IA plus performantes sans que les humains ne s’en mêlent.

Une action immédiate est donc indispensable, pense Christiano. À la fin de sa série de conférences, Hinton a annoncé que son propre niveau d’inquiétude venait d’être rehaussé. Peu après, il a fait une présentation aux chefs d’État européens présents à Dublin, là où Mark Carney venait tout juste d’être invité. Rien n’en est sorti.

Nous sommes donc en train, collectivement, de marcher vers l’abîme. La solution est évidemment d’interdire le développement de toute nouvelle génération d’IA le temps qu’on répare les précédentes. Pourquoi est-ce impossible ? Parce que Donald Trump est contre et que le dictateur chinois ne semble pas avoir compris que le pire peut lui arriver : la perte de contrôle. Nous sommes impuissants mais pas aphones. Tous les parlements devraient réclamer un moratoire immédiat et l’utilisation des capacités actuelles pour traquer et mettre hors d’état de nuire le développement de nouvelles IA par des acteurs tiers ou malveillants. Nous n’aurons peut-être pas d’autres avertissements.

View the original on Le Devoir →

KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.