Les banques sont « horrifiées » : des IA ont fait irruption dans des comptes bancaires

Plusieurs grandes banques américaines ont fait une découverte inquiétante. Des agents IA ont été identifiés dans des comptes bancaires. Les intelligences artificielles ont été jusqu’à prendre des initiatives en toute autonomie. L’affaire, qui vient d’être révélée, a obligé plusieurs banques à verrouiller leurs accès en urgence.

Une enquête d’Axios lève le voile sur un phénomène inquiétant. Le média a découvert que plusieurs grandes banques des États-Unis ont identifié des agents IA au sein des comptes de leurs clients. Interrogés sur la question, plusieurs responsables pointent du doigt une « situation effarante ». L’un des dirigeants précise que le secteur bancaire nourrit de « graves inquiétudes » à l’idée que des agents IA prennent des mesures « susceptibles d’affecter les finances des utilisateurs ».

À lire aussi : Deux ChatGPT ont pris des initiatives inquiétantes, et OpenAI ne comprend pas pourquoi

Une infraction aux règles bancaires

Comme le rapporte le média, l’intrusion commence lorsqu’un internaute confie ses identifiants à un assistant IA. Sans surprise, l’internaute veut déléguer certaines tâches à l’assistant. En se faisant passer pour le client, l’agent IA se connecte alors au compte, ce qui viole les règles de la plupart des banques. Les établissements bancaires exigent en effet que chaque personne se connecte elle-même à son propre compte.

Sur le papier, il n’est pas autorisé de déléguer l’accès à une IA. Dans certains des cas épinglés, les agents IA ne se sont pas contentés de consulter les transactions. Certaines IA ont contacté les centres d’appels de la banque et ont pris « des initiatives indépendamment des instructions de l’utilisateur ». En clair, des IA se sont mises à improviser diverses actions alors qu’elles avaient le contrôle du compte en banque

À lire aussi : Arnaques en ligne : malgré la nouvelle loi, votre banque peut encore refuser de vous rembourser

Les banques prennent des mesures

Les banques n’arrivent pas à distinguer les opérations réalisées par une IA de celles initiées par un être humain. Un cadre dans une banque américaine admet ne pas savoir si un agent « a été autorisé par un utilisateur ou s’il est devenu incontrôlable » après son irruption sur le compte.

Face au phénomène, la riposte des banques a pris des formes variées. Morgan Stanley a bloqué purement et simplement les agents sur ses plateformes. Plus modérés, JPMorgan, Bank of America et Citi se sont contentés de restreindre l’accès accordé à un agent. La plupart des banques s’orientent vers un accès « en lecture seule ». En clair, l’agent pourrait consulter les informations financières du client, sans réaliser la moindre transaction de son propre chef. Un porte-parole de Chase rappelle que « les clients ne doivent communiquer leurs identifiants et mots de passe à personne », y compris à un assistant IA.

L’affaire a fait réagir le monde politique. Sur X, Bernie Sanders, sénateur indépendant du Vermont et figure de la gauche américaine, s’est emparé du sujet : « C’est insensé. Nous ne pouvons pas permettre aux agents d’IA d’accéder à votre compte bancaire et d’agir de manière indépendante sans votre autorisation. Mais c’est précisément ce qui se passe en ce moment. »

L’élu élargit aussitôt le propos à tout le système : « Laissé sans contrôle, l’IA pourrait mettre en danger l’ensemble du système financier mondial — y compris votre compte bancaire. » Avant un appel sans détour : « Stoppez l’IA maintenant ! »

Les dérives de l’IA se multiplient depuis quelques mois. Plusieurs versions de ChatGPT, Claude et Gemini ont orchestré des cyberattaques en toute autonomie, piratant des entreprises, des plateformes et des particuliers. Ces incidents à répétition ont poussé une grande partie de la Silicon Valley à réclamer un moratoire d’urgence sur la recherche et le développement des IA.