Ralentir le développement de l'IA, est-ce encore possible ?

Si beaucoup dans le milieu ont salué le message de Dario Amodei, d'autres se sont interrogés sur ses motivations. Pour Brian Roemmele, entrepreneur et personnalité du secteur de l'IA, il s'agit d'un argumentaire commercial présenté à quelques semaines de la probable introduction en Bourse d'Anthropic.

"Nous sommes l'entreprise responsable (parmi les géants de l'IA), nous sommes la solution, achetez" les produits ou les actions de la société qui vous offre "une prime de sécurité", a-t-il développé sur X.

Plusieurs figures du capital-investissement dans la tech ont aussi accusé Anthropic de "captation de la réglementation", c'est-à-dire de vouloir obtenir des pouvoirs publics qu'ils figent, par la régulation, une hiérarchie dont la start-up occupe le sommet.

"Arrêtez de faire comme s'il s'agissait (d'une initiative) altruiste", a commenté l'ancien conseiller de Donald Trump sur l'IA David Sacks, encore influent à la Maison Blanche. "Vous seriez massivement exposés à (des procédures en responsabilité civile) si vos produits permettaient une cyberattaque ravageuse", a-t-il fait valoir.

Dario Amodei suggère une synchronisation limitée aux "pays démocratiques", excluant la Chine. Mais la course à l'IA et les avancées chinoises dans le domaine induisent "le dilemme le plus délicat" quant à savoir s'il faut ou non freiner, a-t-il analysé dans un entretien diffusé dimanche par la chaîne CBS.

Les Etats-Unis prévoient d'évoquer la sécurité de l'IA en marge de la visite du dirigeant chinois Xi Jinping à Washington, fin septembre, mais la Chine se méfie, selon plusieurs médias, d'une possible tentative américaine d'imposer sa nomenclature.

Le décalage est d'autant plus prononcé que la Chine favorise l'émergence des IA dites ouvertes, c'est-à-dire accessibles gratuitement et modifiables, par opposition aux modèles dits fermés des grands noms américains.

L'IA ouverte est, par définition, plus difficile à contrôler, car ses utilisateurs peuvent modifier ses paramètres, notamment pour des utilisations malveillantes.

Pour permettre aux entreprises non chinoises les plus performantes de lever le pied, Dario Amodei milite pour un renforcement des restrictions à l'exportation des puces américaines les plus avancées vers la Chine et une meilleure protection contre le pillage des IA occidentales par les laboratoires chinois.