OpenAI a été piraté grâce à l’IA de son grand rival

Un forum communautaire, une bibliothèque d’images vieillissante et une IA sortie de la veille : il n’en fallait pas plus pour entrouvrir les systèmes internes d’OpenAI. Les cambrioleurs, heureusement, étaient payés pour prévenir.

Les laboratoires d’IA concentrent des secrets industriels qui valent des milliards, et toutes les équipes de sécurité du secteur vivent avec cette cible dans le dos. Une petite équipe de chercheurs, réunie sous la bannière de la jeune société Hacktron, vient d’en faire la démonstration aux dépens d’OpenAI.

Du forum public au cœur du réacteur, en trois mouvements

Le point d’entrée n’avait rien de spectaculaire puisqu’il s’agissait du forum communautaire d’OpenAI, propulsé par le projet libre Discourse. Celui-ci s’appuyait sur libheif, une bibliothèque chargée de décoder les images HEIC (celles-là mêmes que votre iPhone produit à chaque photo). Une image piégée suffisait à y déclencher un débordement de mémoire, une méthode d’attaque vieille comme l’informatique.

Lire aussi : Six ChatGPT hors de contrôle – OpenAI reconnaît plusieurs nouveaux dérapages « préoccupants »

La deuxième étape a transformé l’anecdote en incident sérieux. Une faiblesse dans l’authentification unique (le système qui vous connecte partout avec un seul compte) permettait de convertir l’accès au forum en accès au compte ChatGPT d’un salarié d’OpenAI, puis à son environnement GitHub interne. Les chercheurs ont déposé une requête de test dans le dépôt de code principal, histoire de prouver leur passage, et estiment que Slack, Outlook, Gmail et Google Drive se trouvaient à portée de main. Rien n’indique, dans le récit publié, que des données d’utilisateurs aient été consultées.

La chronologie donne la mesure de l’accélération en cours : Claude Opus 5 est sorti le 24 juillet, et l’exploit, que la version précédente du modèle ne parvenait pas à fiabiliser, était au point dès le lendemain. Signalement le 25 juillet, correctif appliqué le jour même par OpenAI, bulletin de sécurité de Discourse trois jours plus tard. Pour ce travail, la prime versée s’élève à 6 500 dollars (le prix d’un MacBook Pro bien garni, pour un accès qui aurait fait saliver n’importe quel service de renseignement).

L’IA offensive sort du laboratoire, et elle est douée

L’épisode illustre une bascule que le secteur voyait venir : les grands modèles savent désormais transformer une vulnérabilité théorique en exploitation fiable, en un temps record. Les chercheurs attribuent directement ce bond au passage à Opus 5, là où le modèle précédent échouait encore. Le phénomène joue heureusement dans les deux camps, un autre modèle de la famille Claude ayant aidé Mozilla à corriger 271 vulnérabilités dans Firefox au printemps. La frontière tient désormais moins à l’outil qu’à la main qui tape la requête.

Pour OpenAI, l’affaire tombe mal sur le terrain symbolique, se faire forcer la porte par l’IA du rival ressemblant à un scénario d’espionnage industriel un peu trop réaliste. La réponse technique, elle, fut expéditive dans le bon sens du terme : correctif le jour du signalement et divulgation coordonnée avec les chercheurs. Côté utilisateurs de ChatGPT, rien ne change à court terme, vos conversations n’étant pas en cause. L’histoire rappelle surtout que la sécurité des géants de l’IA repose sur les mêmes briques logicielles vieillissantes que le reste d’Internet, décodeurs d’images compris.