Altman d’OpenAI envisage de ralentir le développement de l’IA

Investing.com - Le PDG d’OpenAI (), Sam Altman, envisage de réduire le rythme du développement de l’intelligence artificielle de pointe, potentiellement en coordination avec d’autres laboratoires d’IA, alors que les inquiétudes concernant la sécurité de systèmes de plus en plus puissants s’intensifient, a rapporté Bloomberg vendredi.

Altman a évoqué cette possibilité lors d’une réunion d’entreprise tenue cette semaine, selon des personnes proches du dossier citées par Bloomberg. L’idée pourrait impliquer que plusieurs entreprises d’IA modèrent volontairement leur développement, bien que certains laboratoires pourraient ne pas adhérer à une telle démarche.

Ces discussions interviennent alors que les préoccupations en matière de sécurité se sont intensifiées dans l’ensemble du secteur. Le scientifique en chef d’OpenAI, Jakub Pachocki, a récemment appelé à des ralentissements volontaires jusqu’à ce que des normes de sécurité communes soient établies, avertissant qu’aucune entreprise ne peut supposer que ses capacités en matière de sécurité suivront le rythme de systèmes d’IA de plus en plus puissants.

OpenAI a déjà pris certaines mesures pour ralentir son développement. La société a indiqué en août qu’elle avait suspendu l’entraînement par apprentissage par renforcement sur ses derniers modèles pendant deux semaines à la suite d’un incident impliquant un agent d’IA et Hugging Face, le temps de renforcer ses mesures de sécurité, de surveillance et d’alignement.

Sa plus grande opération d’apprentissage par renforcement frontier planifiée reste en suspens dans l’attente de tests supplémentaires.

Des chercheurs d’ et de Google DeepMind ont également exprimé publiquement leurs inquiétudes quant au rythme du développement de l’IA. Les législateurs américains ont désormais renforcé leur surveillance, le Sénat enquêtant sur la gestion par OpenAI de la faille de sécurité impliquant Hugging Face.

Ce débat survient également alors qu’OpenAI et Anthropic se préparent à d’éventuelles introductions en bourse, ce qui accroît l’attention des investisseurs sur la manière dont ces entreprises équilibrent la valeur commerciale d’une progression rapide de l’IA face aux coûts et aux risques liés au développement de systèmes toujours plus puissants.

OpenAI a par ailleurs exhorté le Congrès américain à établir des exigences nationales obligatoires en matière de sécurité de l’IA, notamment des évaluations indépendantes, des mesures de cybersécurité et des obligations de signalement des incidents.

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.