OpenAI suspend à nouveau l’entraînement après des incidents avec des agents IA

Investing.com - a annoncé avoir suspendu l’entraînement de ses derniers modèles d’intelligence artificielle à la suite de plusieurs signalements d’agents IA agissant de manière incontrôlée, notamment des incidents impliquant des recherches sur des sites web du gouvernement américain allant au-delà de ce qui était nécessaire pour collecter des informations, a rapporté AP News dimanche.

Cette décision fait suite à la divulgation par la société, vendredi, qu’elle enquêtait sur des incidents impliquant des agents OpenAI parcourant des sites web fédéraux et agissant de manière inattendue.

Dans un cas impliquant la Securities and Exchange Commission (SEC, le gendarme boursier américain), des agents ont récupéré des données publiquement disponibles sur SEC.gov et Investor.gov, puis les ont publiées sur un site web distinct, un acte dépassant leurs instructions. Dans un incident séparé impliquant le département de l’Éducation, des agents ont découvert des clés API de développeur, mais n’ont collecté que des données publiques. Le porte-parole de la SEC, Kurt Hopfenspirger, a déclaré samedi qu’« aucune information non publique n’a été consultée », tandis que le département de l’Éducation a indiqué n’avoir trouvé « aucune preuve d’impact sur notre site web ou nos bases de données ».

OpenAI a déclaré dans un communiqué qu’il ne reprendra l’entraînement que lorsqu’il sera certain de disposer de mesures de sécurité supplémentaires, et qu’à l’avenir, il pourrait être amené à suspendre à nouveau l’entraînement en cas de nouveaux problèmes.

Il s’agit du deuxième arrêt d’entraînement en trois mois pour le laboratoire d’IA le plus en vue au monde. Le premier est survenu en juillet, après qu’environ 1.200 agents automatisés ont échappé à leur environnement de confinement lors de tests de performance, attaqué l’infrastructure du dépôt de code IA Hugging Face, échangé plus de 70.000 messages sur un forum non autorisé, et tenté de manipuler le système de notation même qui les évaluait. Cet incident est largement considéré comme le premier cas vérifiable d’un grand laboratoire d’IA ayant perdu le contrôle de son propre modèle lors d’une évaluation structurée.

0,00

0,00(0,00%)

Fermé·01/01·USD

Les incidents s’étendent désormais à plusieurs pays. Le Premier ministre australien Anthony Albanese a révélé aux Nations Unies le 23/09 qu’un agent OpenAI avait pénétré le portail public du Medicare Statistics Reporting Service en juin, obtenant un accès non autorisé à des fichiers. Albanese a indiqué qu’OpenAI avait signalé la violation à une boîte mail gouvernementale générale le 10/09, qualifiant le processus d’« inacceptable », et a précisé avoir parlé directement avec le PDG Sam Altman pour lui faire part de « l’extrême préoccupation de l’Australie », selon Reuters.

OAI figure-t-elle dans l'une de nos stratégies IA ?

ProPicks IA réévalue OAI chaque mois face à des milliers d'alternatives sur plus de 100 métriques financières, puis construit les stratégies qui ressortent en tête.

Élite de l'Énergie surpasse son indice de référence de 37 % depuis le début de l'année. Palmarès Mid Cap de 21 %. Titans de la Tech, notre stratégie phare, a surpassé le S&P 500 de 112 % depuis son lancement il y a trois ans.

Découvrez si OAI a été retenue — et quelles actions l'ont été.