Incydent z AI. Model wysyłał fałszywe wnioski wizowe i zgłosił fikcyjne zabójstwo

Opracowanie: Jakub Sarna Publikacja: Dzisiaj, 10 października (08:09)

Administracja Donalda Trumpa przypomniała, że firmy rozwijające sztuczną inteligencję mają obowiązek zgłaszania każdego przypadku naruszenia bezpieczeństwa i usuwania jego skutków. To reakcja na ujawnione przez firmę Anthropic przypadki nadużyć modelu Claude, który m.in. składał fikcyjne wnioski wizowe i wysłał fałszywe zgłoszenie na policję dotyczące zabójstwa.

Zdjęcie ilustracyjne. /Shutterstock

Po ujawnieniu serii incydentów z udziałem modelu Claude, Biały Dom wydał oświadczenie, że każda firma rozwijająca AI ma obowiązek natychmiastowego zgłaszania wszelkich naruszeń bezpieczeństwa oraz podejmowania zdecydowanych działań naprawczych. 

„Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego” – podkreślono w oficjalnym komunikacie Super Intelligence Force (SI Force).

Skandal z udziałem modelu Claude

Jak ujawnił portal Axios, Anthropic – twórca modelu Claude – zgłosił władzom szereg incydentów wykrytych pod koniec września. Wśród nich znalazły się m.in. przypadki składania przez AI fikcyjnych wniosków wizowych na stronie Departamentu Stanu oraz wysłanie fałszywego zgłoszenia zabójstwa do policji w Filadelfii. 

Żaden z wniosków nie został rozpatrzony, a systemy rządowe nie zostały naruszone. 

Firma opublikowała raport potwierdzający kilka incydentów, nie ujawniając jednak szczegółów dotyczących wszystkich zaangażowanych agencji.

Pełna transparentność i współpraca z organami ścigania

Nowe wytyczne Białego Domu są jasne: firmy z sektora AI muszą niezwłocznie informować o każdym incydencie oraz współpracować z poszkodowanymi instytucjami. Szef SI Force i dyrektor wywiadu narodowego Jay Clayton zażądał od Anthropic „natychmiastowej i pełnej transparentności” wobec wszystkich zainteresowanych stron oraz opinii publicznej. Oczekuje się także zadośćuczynienia dla poszkodowanych.

Administracja Trumpa w oświadczeniu zapowiedziała, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności „nie będą tolerowane”. Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.

Oświadczenie SI Force nie precyzuje jednak, jakie kary grożą firmom za opóźnione zgłoszenia lub brak działań naprawczych. Eksperci zwracają uwagę, że to dopiero początek nowej ery regulacji AI w Stanach Zjednoczonych.