Nations unies | Le patron d’OpenAI va faire une présentation au Conseil de sécurité

(New York) Le patron d’OpenAI Sam Altman va faire une présentation au Conseil de sécurité lors d’une réunion organisée mercredi à New York à l’initiative de la France, a indiqué vendredi à l’AFP une porte-parole de la start-up californienne.

Publié à 20 h 16

Cette réunion, en marge de l’Assemblée générale des Nations unies, intervient alors que les inquiétudes sur les dérapages de l’intelligence artificielle (IA) ont pris une nouvelle dimension depuis le début de l’été.

Mercredi, le secrétaire général de l’ONU Antonio Guterres a jugé « indispensable » une « coordination mondiale » sur l’IA, même si « l’action au niveau national est essentielle ».

Les États-Unis, considérés comme le pays le plus avancé dans cette technologie, ont jusqu’ici refusé d’encadrer strictement le secteur. Donald Trump a qualifié lundi de « canulars » les alertes lancées par plusieurs informaticiens ayant travaillé au contact des modèles d’IA les plus performants.

Employé démissionnaire d’Anthropic, Jacob Coxon, qui est également passé un temps par OpenAI, a accusé la semaine dernière les deux principaux rivaux de la course à l’IA de négliger les risques de l’intelligence artificielle et de « jouer avec nos vies ».

Ces derniers mois, se sont multipliés les incidents lors desquels des IA ont pris des initiatives qui ne correspondaient pas au cadre fixé par leurs superviseurs.

En juillet, deux modèles d’OpenAI sont notamment sortis de leur milieu confiné lors de tests pour se rendre sur l’internet et faire intrusion sur plusieurs sites et plateformes.

Nombre de professionnels craignent également que la nouvelle méthode appelée amélioration récursive autonome (RSI), qui consiste à laisser l’IA se perfectionner elle-même sans intervention humaine, n’induise des risques supplémentaires de perte de contrôle.

Des poids lourds de l’IA conviés pour la visite de Xi à la Maison-Blanche

Les patrons d’OpenAI Sam Altman et de Nvidia Jensen Huang participeront jeudi à un dîner donné en l’honneur de Xi Jinping à la Maison-Blanche, a indiqué vendredi une responsable américaine, alors que l’intelligence artificielle est l’un des sujets de la visite du président chinois à Washington.

« Ce sera un évènement très prisé, avec des places très convoitées », a déclaré pendant un échange avec des journalistes cette responsable, qui s’exprimait sous couvert d’anonymat.

D’autres grands noms de la tech, comme Jeff Bezos ou Elon Musk, seront également de la partie, selon la même source.

L’IA devrait occuper une place importante dans les discussions entre Donald Trump et Xi Jinping, les États-Unis et la Chine étant les deux principales puissances dans la course au développement de cette technologie.

Longtemps considérée comme à la traîne dans le domaine de l’IA de pointe, Pékin est en train de combler rapidement son retard sur les États-Unis. Washington tente de ralentir ces progrès en limitant les exportations de puces avancées nécessaires à l’IA de pointe, notamment les semi-conducteurs de Nvidia, vers la Chine.

Malgré cette rivalité, l’espoir demeure que les deux superpuissances puissent parvenir à un accord lors de la rencontre entre Donald Trump et Xi Jinping. Un accord ambitieux, comme un ralentissement du développement de l’IA ou la mise en place de garde-fous à l’échelle mondiale, semble toutefois hors de portée.