Un ancien employé d’OpenAI démissionne et critique l’approche de l’entreprise face aux risques de l’IA

Investing.com - Un ancien employé chargé de la sécurité chez a démissionné et critiqué l’approche de l’entreprise spécialisée en intelligence artificielle concernant la gestion des risques, estimant que sa culture de développement rapide ne laisse pas suffisamment de place à la recherche en matière de sécurité, selon Reuters.

David Robinson, qui a passé trois ans et demi chez OpenAI, a exposé ses préoccupations dans un essai publié samedi par The Atlantic, intitulé « I Quit OpenAI Because Its Culture Is Broken » (« J’ai quitté OpenAI parce que sa culture est dysfonctionnelle »).

Robinson a affirmé que les entreprises d’IA, dont OpenAI, ne faisaient pas preuve d’une prudence suffisante dans le développement de systèmes de plus en plus performants. Il a soutenu que l’IA avancée nécessite des mesures de protection comparables à celles appliquées dans des secteurs tels que l’aviation et le nucléaire.

« Le temps des essais et des erreurs est révolu », a écrit Robinson.

Il a critiqué la dépendance d’OpenAI à ce que l’entreprise appelle le « déploiement itératif », selon lequel les systèmes sont mis en service et les mesures de sécurité renforcées au fur et à mesure que les problèmes apparaissent.

Robinson a contribué à l’élaboration du cadre de préparation d’OpenAI et a supervisé les rapports de sécurité couvrant 12 lancements de modèles de pointe durant son passage au sein de l’entreprise.

« Alors que l’entreprise enchaîne les lancements à toute vitesse, elle ne parvient pas à atteindre le niveau de rigueur que j’estime nécessaire », a-t-il écrit.

Son départ intervient dans un contexte de surveillance accrue de la rapidité avec laquelle les entreprises d’IA développent des systèmes toujours plus puissants. OpenAI et son concurrent Anthropic ont été confrontés à des questions à la suite d’incidents impliquant des défaillances de contrôles de sécurité ou des comportements inattendus de la part de systèmes expérimentaux.

Robinson a également soutenu que les capacités de l’IA progressent plus vite que la compréhension qu’en ont les chercheurs en matière d’alignement — le domaine qui vise à maintenir les systèmes d’IA en accord avec les objectifs et les valeurs humaines.

OpenAI a défendu ses pratiques en matière de sécurité, affirmant surveiller si les capacités de ses modèles peuvent être gérées et sécurisées de manière adéquate.

« Nous veillons à ce que nos modèles ne deviennent pas plus performants que ce que nous sommes en mesure de gérer et de sécuriser en toute sécurité, et nous suspendons l’entraînement ou retenons des modèles lorsque nous devons ralentir », a déclaré un porte-parole d’OpenAI.

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.