Zuckerberg soutient les évaluateurs indépendants de sécurité de l’IA

Investing.com- Le PDG de Meta, Mark Zuckerberg, a déclaré mardi soir que les développeurs d’intelligence artificielle devraient s’appuyer sur des évaluateurs de sécurité indépendants pour leurs modèles, plutôt que de ralentir le développement.

Zuckerberg a indiqué dans une publication sur X que les laboratoires d’IA qui ne se concentrent pas sur l’« alignement » avec les utilisateurs prendront du retard, et que les développeurs devraient faire appel à des évaluateurs et conseillers indépendants.

« Il y a beaucoup de débats sur le ralentissement des progrès en matière de capacités jusqu’à ce que l’alignement rattrape son retard. Mon point de vue est que la confiance et l’alignement deviennent rapidement les capacités les plus importantes qui différencieront les agents et les modèles », a déclaré Zuckerberg.

Accédez à davantage d’actualités sur les grandes entreprises d’IA avec InvestingPro - jusqu’à 55% de réduction pour une durée limitée

Il a indiqué que Meta avait retardé la sortie de son dernier modèle d’IA Muse afin de se concentrer sur la sécurité.

« Faire appel à des évaluateurs et conseillers indépendants est une pratique exemplaire dans le secteur… il serait utile de disposer d’un écosystème d’évaluateurs plus large et plus diversifié », a déclaré Zuckerberg dans un communiqué.

Les commentaires du PDG de Meta interviennent dans un contexte de débat croissant sur la sécurité de l’IA, notamment après que le PDG d’Anthropic, Dario Amodei, a publié un essai appelant à un ralentissement du développement de l’IA en raison des menaces potentielles posées par cette technologie en pleine expansion.

Le PDG d’OpenAI, Sam Altman, le PDG de xAI, Elon Musk, et plusieurs autres grands dirigeants dans le domaine de l’IA ont soutenu le message d’Amodei. Mais d’autres, notamment le PDG de Nvidia, Jensen Huang, ont balayé les préoccupations en matière de sécurité — une position également défendue par le président Donald Trump.

Les commentaires de Zuckerberg sont davantage en phase avec la position adoptée par Jensen Huang de Nvidia, qui a vivement critiqué les propositions visant à accorder aux entreprises d’IA des exemptions antitrust pour coordonner un ralentissement du développement.

Huang a déclaré que les développeurs d’IA devraient être en mesure de résoudre eux-mêmes les problèmes de sécurité, et que les concepteurs de modèles devraient également assumer davantage de responsabilités vis-à-vis de leurs créations.

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.