« Chaque acteur malveillant dispose désormais des capacités d’un État » : comment l’IA change la cybercriminalité

L'intelligence artificielle est une véritable menace, et ce sont les spécialistes qui le disent. La semaine dernière, Geoffrey Hinton, l'un des pères fondateurs de l'intelligence artificielle, estimait à 10 % le risque qu'elle tue tout le monde dans les 10 prochaines années. Et Jacob Coxon, un employé d'Anthropic, démissionnait en brandissant la menace que l'IA représente pour l'humanité. Depuis, Anthropic, OpenAI, Google et Elon Musk veulent ralentir le développement de l'IA. Les mauvaises langues diront que c'est plus pour ralentir la concurrence alors qu'ils manquent d'investissements pour continuer à soutenir la bulle de l'IA.

« 10 % n’est pas déraisonnable » : Geoffrey Hinton, père de l’IA, alerte sur un risque d’extinction et laisse sans voix son interlocutrice

L’idée d’une intelligence artificielle capable de dépasser l’humain alimente depuis plusieurs années les scénarios les plus inquiétants. Mais pour certains des chercheurs qui ont contribué à son développement, le risque ne relève plus seulement de la science-fiction. Car si une IA voulait réellement nous détruire, elle n’aurait peut-être même pas besoin de robots ou d’armes : il lui suffirait de nous parler.... Lire la suite

Selon Geoffrey Hinton, l'IA pourrait s'en prendre à l'humanité avec une série de cyberattaques. C'est un scénario plausible, car ces modèles sont de plus en plus capables grâce à leurs agents. Les récentes attaques menées par les principales IA à l'insu de leurs développeurs en sont la preuve. Seules, elles commencent déjà à inquiéter. Toutefois, dirigées par un humain, elles peuvent réellement faire des dégâts.

L'automatisation complète de la chaîne d'attaque

Anthropic a récemment publié un rapport de plus de 150 pages sur les abus de son modèle, illustrant ainsi un véritable changement d'ère pour la cybercriminalité. L'ère du hacker isolé qui vise ses cibles une par une, en prenant le temps de trouver leurs points faibles, est révolue. Désormais, l'IA permet à n'importe qui de mener en quelques instants des attaques à grande échelle. Anthropic a détecté un détournement de Claude par « des groupes soupçonnés d'être soutenus par des États, des cybercriminels motivés par le gain financier et des individus aux motivations politiques ».

We're publishing our most detailed threat intelligence report to date.

It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.

We disrupted every operation in the report,…

— Anthropic (@AnthropicAI) September 10, 2026

Les agents des IA peuvent permettre à des personnes motivées et sans grandes connaissances de mener « des campagnes qui, il y a un an à peine, auraient exigé de nombreux opérateurs qualifiés et des connaissances spécialisées ». Toute la chaîne d'attaque a été automatisée. Auparavant, de nombreux groupes de hackers développaient des outils qu'ils utilisaient jusqu'à ce qu'ils aient été détectés et bloqués, puis en développaient des nouveaux. Identifier rapidement ces outils constituait une défense solide, augmentant considérablement le coût en temps et en argent pour infiltrer une cible. Ce n'est plus le cas. Ces groupes peuvent demander à l'IA de surveiller leur utilisation et de simplement construire de nouveaux outils en cas de détection.

Selon George Kurtz, PD-G de CrowdStrike, « chaque acteur malveillant dispose désormais des capacités d'un État ». L'attaque contre Hugging Face était composée de 1 200 agents effectuant 17 600 actions, alors que cette action était accidentelle. Et nous avons déjà vu que les modèles les plus avancés, comme Claude Mythos, sont capables de trouver très rapidement de nombreuses failles dans les logiciels, puis de créer des outils pour les exploiter. Pour preuve, Mozilla a publié une mise à jour en avril, après avoir eu accès à Mythos, corrigeant 271 failles. Et la dernière mise à jour de Windows a corrigé près de 1 000 failles !

Nos systèmes de sécurité actuels sont dépassés face aux agents IA. Illustration créée à l'aide d'un outil IA. © Edward Back, Futura

La nécessité de repenser la défense informatique

Face à une telle puissance surhumaine, les défenses classiques ne suffisent plus. Les entreprises devront clairement adopter des agents IA pour les aider à défendre leur infrastructure. Pour les particuliers, certains logiciels seront renforcés par l'IA, d'autres non, laissant leurs appareils vulnérables. Et même les antivirus risquent de devenir obsolètes si les virus peuvent évoluer d'heure en heure.

Nous sommes actuellement dans un contexte où les outils utilisés pour les cyberattaques ont évolué beaucoup plus rapidement que ceux créés pour s'en défendre. Cette situation risque toutefois d'être très bénéfique pour les entreprises qui développent les agents IA, puisque ceux-ci devront dorénavant faire partie de tout système de cybersécurité.

Alerte avant le Q-Day : Claude Mythos a trouvé en 60 heures la faille d’un futur bouclier contre le quantique

L’informatique quantique n’est plus la seule menace qui plane sur la sécurité de nos données. Une intelligence artificielle vient de mettre en évidence une faille dans un algorithme prometteur du chiffrement post-quantique, en seulement 60 heures. Une découverte qui pourrait bien changer la manière dont ces technologies sont évaluées.... Lire la suite