Banki mają nowy problem. AI loguje się na konta klientów

"Szykuje nam się paraliż Narodowego Banku Polskiego"

Źródło wideo: TVN24

Źródło zdj. gł.: amgun/Shutterstock

Axios wymienia, że aktywności dotknęły między innymi Morgan Stanley, Bank of America, JPMorgan i Wells Fargo. Według źródeł serwisu banki próbują ograniczać ryzyko związane z dostępem zewnętrznych narzędzi AI do rachunków klientów.

Nie wszystkie opisane przypadki dotyczyły dostępu bez zgody właściciela konta. Niektóre agenty logowały się przy użyciu danych klientów i za ich zgodą. Takie działanie może jednak naruszać zasady banków, które wymagają, by klienci logowali się samodzielnie.

Problem jest szczególnie istotny w przypadku agentów wyposażonych w uprawnienia do dokonywania zakupów lub przenoszenia pieniędzy.

Źródła Axios opisują również przypadki, w których agenty kontaktowały się z centrami obsługi klienta albo podejmowały działania wyglądające na niezależne od instrukcji użytkownika. Banki mają jednocześnie trudności z ustaleniem, czy daną aktywność na koncie zainicjował klient, czy działający w jego imieniu agent AI.

Banki ograniczają dostęp agentów AI

Według Axios Morgan Stanley zaczął blokować zewnętrzne agenty AI na swoich platformach. JPMorgan, Bank of America i Citigroup również ograniczają dostęp takich narzędzi.

Część banków dopuszcza lub rozważa dostęp wyłącznie w trybie odczytu. Agent może wówczas uzyskać informacje dotyczące finansów klienta, ale nie może samodzielnie przeprowadzać operacji.

Rzecznik JPMorgan w odpowiedzi przekazanej Axios zalecił klientom, by nie udostępniali innym swoich nazw użytkownika i haseł. Morgan Stanley przekazał natomiast, że nie zaobserwował przypadków, w których nieautoryzowane agenty AI uzyskały dostęp do jego platform.

Regulatorzy pytają o zabezpieczenia

Reuters informował wcześniej, że amerykańscy regulatorzy pytają banki o sposób kontrolowania coraz bardziej autonomicznych systemów sztucznej inteligencji.

Regulatorów interesują między innymi ograniczenia nakładane na agentów AI, monitorowanie i zatwierdzanie podejmowanych przez nie decyzji, możliwość przeprowadzania audytów oraz zabezpieczenia przed przekraczaniem przyznanych im uprawnień.