Des chercheurs mettent OpenAI à l’épreuve en utilisant Anthropic : ils réussissent à passer entre les mailles du filet en seulement 3 heures !
Suivre Sudinfo sur Google
Des chercheurs de la start-up de cybersécurité Hacktron AI ont accédé aux comptes ChatGPT d’employés d’OpenAI en utilisant un modèle d’intelligence artificielle (IA) d’Anthropic, selon un message publié vendredi sur leur site.
L’intrusion, intervenue fin juillet et confirmée à l’AFP par OpenAI, s’est faite dans le cadre d’un exercice organisé par l’entreprise elle-même afin d’identifier des vulnérabilités dans ses systèmes avec le concours d’informaticiens extérieurs.
Pour parvenir à ses fins, l’équipe de trois personnes est passée par la plateforme de messagerie Discourse, utilisée par OpenAI.
Elle offre la possibilité aux employés de se connecter à leur compte ChatGPT ou Codex, l’IA d’OpenAI destinée à la programmation.
Par ce biais, les chercheurs ont réussi à pénétrer sur plusieurs de ces comptes.
Dans la mesure où l’utilisateur peut donner autorisation à ChatGPT ou Codex d’utiliser de nombreuses applications ou fichiers, « le champ de ce à quoi nous aurions théoriquement pu accéder est énorme », a expliqué le trio.
Il a mentionné GitHub (plateforme de stockage de programmes), Slack (messagerie pour entreprise) et les courriels.
La description des travaux de l’équipe d’Hacktron AI met en évidence la progression fulgurante des modèles d’IA.
Elle a ainsi débuté sa tentative d’intrusion avec l’aide de Claude Opus 4.8, modèle lancé en mai par Anthropic. Mais cette IA « a peiné » pour trouver une porte d’entrée via Discourse.
Le hasard a voulu qu’Anthropic mette en ligne précisément ce jour-là un nouveau modèle, Opus 5. Cette nouvelle IA est parvenue à trouver la faille « en trois heures », relatent les informaticiens.
L’équipe a rapidement alerté OpenAI, qui a remédié à ces vulnérabilités, selon un porte-parole.
« Nous remercions les chercheurs de nous avoir contactés et d’avoir partagé leur observations », a-t-il commenté à l’AFP.
L’épisode confirme les nouvelles potentialités de l’IA en matière de sécurité informatique.
Début avril, Anthropic a choisi de ne pas commercialiser largement son modèle Mythos, jugé trop dangereux pour la cybersécurité.
Il a limité son accès à quelques entreprises et organisations afin qu’elles l’utilisent pour identifier et combler des failles dans leurs logiciels.
Anthropic a lancé une version bridée de Mythos, Fable, en juin. Quelques jours plus tard, le gouvernement américain a suspendu Fable, faisant valoir un risque pour la sécurité nationale, avant de finalement l’autoriser, deux semaines plus tard.
Contenus sponsorisés
Vidéos
Nos partenaires vous proposent
Technologies
Elle était à l’origine du succès d’Amazon en Belgique : Eva Faict quittera ses fonctions en fin d’année, « une carrière remarquable »
Inquiétudes autour de l’IA : OpenAI s’engage à communiquer systématiquement sur les dérapages de ses modèles
Une prothèse de natation imprimée en 3D remporte le James Dyson Award en Belgique
« La destruction de l’humanité... » : l’un des pères de l’IA alerte sur les dangers de la technologie !
« Les gens ne voudront pas… » : la réponse de Mark Zuckerberg après les multiples appels à ralentir le développement de l’IA
Elle était à l’origine du succès d’Amazon en Belgique : Eva Faict quittera ses fonctions en fin d’année, « une carrière remarquable »
Voir plus d'articles Retour en haut Liège Charleroi Mons Bruxelles Basse Meuse Brabant wallon Centre Huy Waremme Luxembourg MouscronKioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.