Axios: Wall Street szykuje się na „dzień po” katastrofie AI

Autor: Jan Matoga Publikacja: Dzisiaj, 23 października (18:17)

Największe amerykańskie banki opracowują scenariusze na wypadek poważnego kryzysu związanego ze sztuczną inteligencją – wynika z ustaleń serwisu Axios. Instytucje finansowe chcą nie tylko zapobiegać zagrożeniom, ale też przygotować się na utrzymanie działania systemów, ochronę rachunków i uspokojenie klientów po ewentualnym ataku na dużą skalę.

Wall Street w Nowym Jorku /Shutterstock

Banki obawiają się przede wszystkim skutków coraz powszechniejszego używania agentów AI – programów, którym użytkownicy przekazują dane logowania do kont. Według Axios w niektórych przypadkach takie narzędzia podejmowały działania, których klienci bezpośrednio nie zlecili.

Instytucje zaznaczają, że nie ma informacji o przejęciu środków klientów ani o cyberataku, który naruszyłby rachunki bankowe. Ostrzegają jednak przed przekazywaniem haseł agentom AI.

Agent AI może wykonać nieautoryzowane polecenie

Problem dotyczy sytuacji, w których klient daje agentowi sztucznej inteligencji dostęp do bankowości elektronicznej. Narzędzie może wówczas analizować rachunek, a potencjalnie również wykonywać operacje w imieniu użytkownika.

Banki wskazują, że ryzyko nie musi polegać wyłącznie na celowym ataku hakerskim. Obawiają się także błędów, nieprzewidywalnych zachowań systemu lub poleceń podjętych bez wyraźnej zgody klienta.

Zakłada się, że będą działać właściwie w naszym imieniu, a tak nie musi być – mówił cytowany przez Axios wcześniej prezes JPMorgan Chase Jamie Dimon. Jak podkreślał, powstrzymanie rozwoju AI nie będzie możliwe, dlatego konieczne jest ścisłe zarządzanie ryzykiem.

Banki blokują dostęp

Rzecznik JPMorgan Chase przekazał Axios, że klienci nie powinni udostępniać swoich haseł „żadnej osobie ani żadnemu narzędziu”.

Banki – w tym JPMorgan – podejmują kroki, by blokować dostęp agentów AI do kont, jeśli wymaga on przekazania danych logowania. Równocześnie analizują rozwiązania, które pozwalałyby klientom łączyć wybrane usługi z rachunkami w bezpieczniejszy sposób.

Jednym z przykładów są systemy tzw. otwartej bankowości. Mogą one zapewniać dostęp wyłącznie do odczytu danych, takich jak saldo czy historia transakcji, bez możliwości wykonywania przelewów.

Testy i plany na najgorszy scenariusz

Największe banki uczestniczyły wcześniej w testach modelu Anthropic Mythos, określanego jako jeden z najbardziej zaawansowanych pod względem cyberbezpieczeństwa systemów AI. Celem było lepsze rozpoznawanie metod cyberataków i przygotowanie mechanizmów obronnych.

Obecnie instytucje finansowe planują działania na wypadek zakłóceń operacyjnych po dużym incydencie. Chodzi m.in. o ochronę środków na kontach, ciągłość pracy systemów oraz komunikację z klientami.

Dla sektora finansowego takie planowanie nie jest nowością. Operatorzy infrastruktury krytycznej muszą przygotowywać się na sytuacje kryzysowe, odpowiadając przed regulatorami, akcjonariuszami i klientami.

Dyrektor generalny firmy Salesforce, Marc Benioff, opublikował alarmujący komunikat na X, cytując pracownika firmy Anthropic zajmującego się bezpieczeństwem, który stwierdził: „choć sytuacja w ciągu ostatnich 4 dni stała się zła, będzie jeszcze gorzej, zanim nastąpi poprawa”.

Clinton w kolejnym komentarzu wyjaśnia, że w ciągu około 18 miesięcy „możliwości cybernetyczne klasy 'mythos' trafią do małych, tanich modeli, a wszyscy programiści na świecie będą korzystać z modeli kosztujących ułamki centa, by raz na zawsze przestać wypuszczać oprogramowanie z lukami bezpieczeństwa”. Do tego momentu system finansów musi przygotować się na poważne kryzysy.

Rośnie presja na regulacje

Ustalenia Axios pojawiły się w czasie narastających obaw o cyberbezpieczeństwo w świecie AI. W ostatnich dniach wykryto poważne luki w języku programowania używanym przez miliony stron internetowych.

Dyskusja o agentach AI i bezpieczeństwie bankowości doprowadziła do apeli o regulacje, płynących z różnych stron amerykańskiej sceny politycznej. Były doradca Białego Domu ds. AI David Sacks przekonywał natomiast, że rozwój powinien obejmować agentów działających pod kontrolą użytkownika – z możliwością przyznania, ograniczenia i cofnięcia uprawnień.

Według Axios tempo rozwoju sztucznej inteligencji sprawia, że zarówno Wall Street, jak i firmy technologiczne z Doliny Krzemowej przygotowują się na najtrudniejsze warianty wydarzeń. Waszyngton koncentruje się tymczasem na ograniczaniu ryzyk cybernetycznych i deklaracjach bezpieczeństwa składanych przez branżę.