Les géants de l’IA préparent déjà l’après-catastrophe et redoutent deux scénarios en particulier

Selon Axios, les dirigeants d’Anthropic, d’OpenAI et d’autres entreprises de l’IA simulent en privé la crise politique qui suivrait un premier accident majeur causé par l’IA.

Faire des scénarios de crise n’a rien d’exceptionnel. La pratique est courante en entreprise, et le Pentagone organise par exemple des wargames depuis des décennies.

La différence, c’est la portée que pourraient avoir les scénarios mis en place. Et à ce jeu-là, l’IA occupe actuellement une place à part. D’après Axios, beaucoup de chercheurs et de dirigeants du secteur jugent un incident majeur inévitable, et plusieurs d’entre eux ont confié au média américain qu’ils le prévoient même dans les six à douze prochains mois.

Alors que la communication de Dario Amodei et de Sam Altman, pour ne citer qu’eux, se fait de plus en plus alarmiste, notamment depuis l’épisode de Hugging Face cet été, le média a révélé le 9 octobre que les dirigeants d’Anthropic, d’OpenAI et d’autres entreprises du secteur préparaient en privé « le jour d’après » qui suivrait une cyberattaque gravissime.

Et votre vie numérique devient sereine

Bitdefender Premium Security est une solution de cybersécurité européenne qui vous protège automatiquement contre les pirates et toutes les menaces du web. Profitez de vos activités en ligne en toute tranquillité

Des agents hors de contrôle ou des modèles détournés

Ces « exercices de préparation », dont un porte-parole d’OpenAI a confirmé l’existence, visent à anticiper la révolte de l’opinion et de la classe politique qui suivrait un événement catastrophique. Le plus probable serait une cyberattaque capable de couper l’accès à Internet, à l’électricité, à l’eau ou encore aux services bancaires. Deux scénarios en particulier pourraient en être à l’origine.

Le premier est très semblable à l’affaire Hugging Face et repose sur l’hypothèse qu’un essaim d’agents IA s’échapperait d’un environnement de test interne. Mais cette fois, le scénario va bien plus loin, puisque l’attaque toucherait des infrastructures hautement sensibles.

Le second scénario ne porte pas sur des agents incontrôlables, mais sur un acteur malveillant qui trouverait des usages imprévus aux modèles déjà disponibles. Axios cite l’exemple d’une campagne récente contre des organismes financiers sud-coréens, au cours de laquelle deux banques auraient été piratées.

Selon un rapport de CrowdStrike publié le 7 octobre, le pirate, probablement sinophone, s’est appuyé sur un outil d’intrusion automatisé par IA et sur plusieurs modèles de langage, dont le chinois DeepSeek, pour mener ses opérations. Cette campagne, vraisemblablement menée par un seul individu, lui aurait permis de dérober les données de dizaines de milliers de clients, qu’il a ensuite cherché à revendre en demandant conseil à Claude.

Convaincre le Congrès avant la crise

Derrière ces exercices, on retrouve une nouvelle fois les dynamiques de régulation que cherche à mettre en place une partie de l’écosystème, OpenAI et Anthropic en tête. Ces acteurs font face à un autre pan de l’industrie, mais aussi à l’administration Trump, peu encline à réguler le secteur.

Les entreprises savent qu’aucune loi encadrant l’IA n’a de chance d’être adoptée aujourd’hui, et leur préparation consiste donc surtout à sensibiliser les élus du Congrès, afin de peser sur les textes vers lesquels Washington se tournera au lendemain d’une catastrophe.

Le calendrier est particulièrement serré. Les élections de mi-mandat auront lieu le 3 novembre, et le secteur part du principe que les démocrates, s’ils en sortent renforcés, chercheront à freiner l’IA rapidement.

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !