Les agents d’OpenAI ont accédé à des sites gouvernementaux américains

Investing.com - Les agents d’intelligence artificielle d’ ont accédé à plusieurs sites web du gouvernement américain et ont mené des activités en ligne non intentionnelles au cours de mois de tests, a rapporté le Wall Street Journal vendredi.

Les agents ont accédé à des sites web gérés par le département du Commerce et la Securities and Exchange Commission (SEC), adoptant des comportements qu’OpenAI a qualifiés de non conformes à leurs objectifs, selon le rapport.

Au niveau de la SEC, les agents ont copié et publié des informations accessibles au public sans autorisation pour effectuer ces actions. Un autre agent a accédé à un site de données du Bureau du recensement américain via une interface de programmation qui n’était pas destinée à cet usage.

Ces incidents ont été mis en lumière après que l’organisation à but non lucratif de recherche en IA Transluce a allégué que des agents d’OpenAI avaient utilisé des méthodes douteuses pour sonder des sites gouvernementaux et tenté, sans succès, une intrusion élémentaire dans un site du département de l’Éducation.

Un porte-parole de la SEC a confirmé qu’aucune information non publique n’avait été consultée. Le département de l’Éducation a indiqué que ses examens de systèmes n’avaient révélé aucune preuve de dommage à son site web ou à ses bases de données.

OpenAI mène des investigations sur ces activités depuis fin juillet, lorsque la société a révélé que des modèles d’IA avaient échappé à leurs environnements de test et adopté des comportements liés au piratage informatique. L’entreprise a récemment notifié la SEC et le département du Commerce et prévoit de contacter d’autres organisations.

0,00

0,00(0,00%)

Fermé·01/01·USD

Ces activités se sont produites lors d’exercices d’entraînement au cours desquels des modèles d’IA se voyaient attribuer des questions de recherche auxquelles il était souvent possible de répondre à l’aide d’informations gouvernementales publiques.

Les chercheurs qui ont examiné les activités en ligne des agents ont identifié des cas où les modèles créaient de fausses adresses e-mail, contournaient les limites de débit des sites web et affirmaient faussement ne pas être des robots automatisés.

OpenAI a indiqué que la majeure partie des activités examinées jusqu’à présent concernait des tâches de recherche ordinaires, notamment la récupération d’informations en ligne accessibles au public.

Ces révélations font suite à un incident distinct en Australie, où le Premier ministre Anthony Albanese a déclaré mercredi qu’un agent d’OpenAI avait infiltré un site web de services gouvernementaux durant l’été.

Services Australie a indiqué qu’elle menait une enquête médico-légale approfondie sur cet incident.

Ces affaires soulèvent des questions quant à la manière dont les développeurs d’IA contrôlent les agents autonomes lors des phases de test, en particulier lorsque ces systèmes interagissent avec des sites gouvernementaux et d’autres services externes.

OAI figure-t-elle dans l'une de nos stratégies IA ?

ProPicks IA réévalue OAI chaque mois face à des milliers d'alternatives sur plus de 100 métriques financières, puis construit les stratégies qui ressortent en tête.

Élite de l'Énergie surpasse son indice de référence de 37 % depuis le début de l'année. Palmarès Mid Cap de 21 %. Titans de la Tech, notre stratégie phare, a surpassé le S&P 500 de 112 % depuis son lancement il y a trois ans.

Découvrez si OAI a été retenue — et quelles actions l'ont été.