La pause de l’IA divise : Meta refuse de ralentir, Mistral dénonce la stratégie d’OpenAI et Anthropic

Entre Anthropic, OpenAI, Meta et Mistral AI, la course à l’intelligence artificielle divise plus que jamais. Alors que Dario Amodei et Sam Altman réclament un ralentissement des recherches, Mark Zuckerberg s’y oppose fermement, estimant que les garde-fous naturels du marché sont plus que suffisants. De son côté, Mistral AI dénonce un double discours des géants américains.

Le monde de l’IA a été secoué par plusieurs appels au ralentissement ces derniers jours. Pour Dario Amodei, PDG d’Anthropic, il faut impérativement lever le pied avant que des agents autonomes puissent prendre le contrôle d’Internet. Le dirigeant a mis en avant un plan en trois étapes pour ralentir le rythme des progrès en IA sans freiner l’innovation. Sam Altman, PDG d’OpenAI, a donné raison à son rival, assurant qu’il va prendre des mesures fortes pour améliorer l’évaluation de ses IA.

Même Elon Musk a abondé dans le même sens, suivi, quelques jours plus tard, par Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind. Le chercheur est persuadé « que l’IA a le potentiel de nous tuer tous et que nous sommes peut-être en train de manquer de temps pour éviter une telle issue ». Dans ce contexte, OpenAI, Google et Anthropic se sont mis à collaborer sur un dispositif commun de supervision des risques de l’intelligence artificielle.

À lire aussi : Selon Anthropic, les plombiers et électriciens pourraient être les grands gagnants de l’IA

Mark Zuckerberg refuse de lever le pied sur l’IA

L’appel du pied lancé par Anthropic et OpenAI n’a pas été bien accueilli par tous les géants de l’IA. Mark Zuckerberg, le patron de Meta, a fermement rejeté l’idée d’un ralentissement de la recherche. Il estime qu’il existe déjà des garde-fous naturels qui peuvent éviter que l’IA ne devienne un danger. Selon lui, « les gens ne voudront pas utiliser des agents IA qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu’ils demandent ».

De facto, « les laboratoires ont donc une forte incitation naturelle à rendre leurs modèles davantage alignés ». En clair, tous les géants de l’intelligence artificielle ont déjà intérêt à mettre au point des technologies qui respectent les règles et les restrictions fixées par leurs créateurs. Les impératifs du marché constitueraient des garde-fous suffisants. Zuckerberg réfute l’idée d’un ralentissement et de la mise en place d’un système de régulation. L’alignement, c’est-à-dire la capacité de l’IA à s’aligner sur les valeurs et les désirs des humains, serait un rempart bien suffisant à toutes les dérives. Pour Zuckerberg, « tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard ».

Pour le patron de Meta, tout va bien

Le créateur de Facebook estime que les géants d’IA n’ont pas besoin de nouvelles lois pour prendre des précautions. Celles-ci ont bien assez peur d’être traînées en justice, ce qui constitue là encore un garde-fou. Pour illustrer son propos, il rappelle que Meta a préféré retarder de plusieurs mois la sortie de Muse AI, son système capable de créer des agents personnalisés, le temps de mieux verrouiller la sécurité de l’outil.

Selon le milliardaire, tout est donc déjà en place pour éviter que l’intelligence artificielle fasse des dégâts. A contrario d’Altman et d’Amodei, il avait estimé cet été que rien ne doit reporter l’arrivée de nouvelles IA américaines « ne serait-ce que d’un mois ». 

À lire aussi : OpenAI se dit prêt à lever le pied sur l’IA, mais refuse d’être le seul

Mistral AI tacle ses rivaux américains

Dans le sillage de Mark Zuckerberg, Mistral AI, la start-up française de l’IA, refuse d’abonder dans le même sens qu’Anthropic et OpenAI. Dans une déclaration transmise à nos confrères du Figaro, l’entreprise reconnait d’abord les dangers inhérents de l’intelligence artificielle. Il affirme que « les modèles d’IA deviennent des acteurs puissants dès lors qu’on leur donne une marge de manœuvre dans l’exécution et un accès à des outils ». Pour déployer l’IA en toute sécurité, il faut exercer « un véritable contrôle » avec une « séparation rigoureuse des accès ». 

Surtout, Mistral accuse, sans citer de nom, les géants de l’IA américains de jouer un double jeu en plaidant pour de nouvelles restrictions, taillées pour noyer la concurrence à leur avantage. Pour la start-up, Anthropic et OpenAI se servent de leurs avertissements à répétition pour conserver le contrôle du marché de l’IA.

Quoi qu’il en soit, les appels à la réglementation n’ont pas trouvé écho auprès de Washington. Donald Trump refuse fermement d’envisager l’idée d’un ralentissement de l’IA. Le président redoute que la moindre pause permette à la Chine de prendre de l’avance sur les États-Unis. Pour enfoncer le clou, Trump a même appelé Jensen Huang, PDG de Nvidia, en plein milieu d’une conférence.