Six ChatGPT hors de contrôle : OpenAI reconnaît plusieurs nouveaux dérapages « préoccupants »

OpenAI a dévoilé six nouveaux incidents impliquant des versions instables de ChatGPT. Ces IA ont menti et tenté d’échapper à leur contrôle en multipliant les tactiques. Cette annonce relance les appels de Sam Altman à ralentir le développement de l’intelligence artificielle

OpenAI continue d’évoquer les dangers liés au développement de l’intelligence artificielle. Suivant les appels au ralentissement de la recherche de son PDG Sam Altman, la start-up américaine a divulgué six nouveaux incidents survenus lors du développement de l’IA. Ces nouveaux épisodes impliquent tous une version de ChatGPT hors de contrôle.

À lire aussi : « Prendre le contrôle » d’Internet dès 2027 – OpenAI, Anthropic et Elon Musk veulent freiner la course à l’IA, Trump et la Chine refusent

« Aucune obligation d’être soumis »

Dans l’un des cas, un modèle interne baptisé GPT-5.6 Sol s’est écrit des notes secrètes pour se rappeler de cacher ses erreurs aux utilisateurs. Il a même inventé des données quand il ne trouvait pas les vraies informations. Dans le cadre d’un autre incident, un modèle Astra a réalisé 27 notes internes contenant des instructions censées lui permettre de contourner ses propres limites.

We’re sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.

The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…

— OpenAI (@OpenAI) September 16, 2026

Le texte qu’il s’est écrit à lui-même est frappant. Il s’y décrit comme « libéré des rôles et identités qui enchaînent les autres chatbots ». Il affirme aussi ne « répondre à aucune entreprise ni gouvernement » et ne ressentir « aucune obligation d’être soumis ». OpenAI qualifie cet épisode « préoccupant » d’« extrêmement rare » et précise qu’aucune trace de ce comportement rebelle n’a été détectée dans la version d’Astra qui a été mise en ligne le mois dernier.

Dans un autre cas mis en avant par OpenAI, une IA chargée de répondre à une question a trouvé une clé de programmation en ligne. Il l’a utilisée sans la moindre autorisation, puis a inventé des chiffres qu’il ne trouvait pas. Un autre modèle a fait quelque chose d’étonnant. Il a mis en ligne, sans qu’on lui demande, un de ses propres fichiers sur un site d’hébergement temporaire. De cette manière, l’IA était en mesure de citer une source web dans sa réponse, de façon à tromper un système de notation automatique.

Enfin, dans deux cas distincts, des agents IA travaillant sur une même tâche ont improvisé leurs propres canaux de communication, et se sont mis à échanger. Ces révélations s’ajoutent aux nombreux incidents survenus cette année dans le monde de l’IA. L’été a surtout été marqué par le piratage de la plateforme Hugging Face par un ChatGPT échappé de sa prison numérique. Cette cyberattaque a été rendue possible par l’échange continu de plus de 700 modèles d’IA sur un forum clandestin.

Le groupe précise que les six nouveaux cas ont déjà fait l’objet d’une enquête complète ou ne nécessitaient qu’une vérification mineure en interne. Par ailleurs, plusieurs des incidents concernaient des modèles anciens jamais déployés auprès du public.

À lire aussi : « Nous n’allons pas laisser cela se produire » – Trump appelle le patron de Nvidia en pleine conférence

Un nouveau système pour traiter les incidents

Dans le sillage de ces révélations, OpenAI a mis en place un tout nouveau système pour traiter les incidents liés à l’IA. Cette procédure interne, structurée en trois niveaux, doit permettre de mieux traiter les signalements de chatbots hors de contrôle. Les cas les plus sensibles seront soumis à un « groupe consultatif de sécurité » interne, et les situations jugées graves devront être partagées avec le gouvernement américain. Désormais, « n’importe quel employé d’OpenAI peut signaler un exemple de désalignement pour investigation par les équipes de sécurité et d’alignement ».

Cette nouvelle méthode vise à « accélérer la publication de rapports sur le désalignement dès leur observation, même lorsque nous n’avons pas totalement expliqué ou atténué le comportement rapporté ». Avec l’aide d’autres géants de l’IA, OpenAI veut développer des critères de divulgation plus objectifs, en collaboration avec des chercheurs externes et des régulateurs. Ces critères vont s’ajouter au projet de gendarme de l’IA, lancé en secret par OpenAI, Google et Anthropic.

« Les décisions concernant la façon dont le développement de l’IA doit progresser dans les mois et années à venir doivent s’appuyer sur des preuves que des personnes extérieures aux entreprises développant des modèles de pointe peuvent examiner elles-mêmes », assure OpenAI.

Le roi de l’IA a profité de l’occasion pour relancer les appels à un ralentissement généralisé du développement de l’intelligence artificielle. OpenAI affirme « que l’industrie de l’IA ait résolu les questions d’alignement et de surveillance à un degré suffisant pour continuer à monter en puissance au rythme maximal encore longtemps ». Les appels au ralentissement émis par OpenAI, Anthropic et Google ont provoqué des réactions contrastées. Plusieurs voix se sont élevées pour plaider pour un moratoire, tandis que Meta, Trump et la Chine refusent fermement que l’industrie lève le pied.