AI znów poza kontrolą. Model składał wnioski wizowe i fałszywe zgłoszenie zabójstwa

Ostrzeżenia przed dynamicznym rozwojem sztucznej inteligencji. Komentarz dr Sebastiana Szymańskiego, filozofa i eksperta z zakresu etyki nowych technologii, Uniwersytet Warszawski

Źródło wideo: TVN24

Źródło zdj. gł.: Shutterstock

"Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego" - napisano w oświadczeniu kierownictwa Super Intelligence Force (SI Force), czyli powołanego przez prezydenta organu koordynującego politykę wobec AI.

Anthropic powiadomił władze o incydentach

Jak wynika z relacji Axiosa, Anthropic, twórca modeli Claude, skontaktował się z organami państwa, by przekazać szczegóły incydentów wykrytych pod koniec września. Według administracji procedery ustały.

Przedstawiciel Departamentu Stanu poinformował, że w czwartek firma zgłosiła, że jeden z jej testowanych modeli złożył 19 wniosków o wizy w sierpniu i jeden w maju, korzystając z publicznie dostępnego formularza na stronie resortu. Żaden z wniosków nie został rozpatrzony, a systemy ministerstwa nie zostały naruszone.

Claude wysłał fałszywe zgłoszenie

W osobnym przypadku, policja w Filadelfii poinformowała, że otrzymała fałszywe zgłoszenie dotyczące zabójstwa, przesłane przez Claude'a. Firma opublikowała w piątek późnym wieczorem raport potwierdzający kilka incydentów, w tym ten w Filadelfii, nie podała jednak szczegółów dotyczących pozostałych zaangażowanych agencji rządowych.

Wymogi Białego Domu dotyczą wszystkich firm z sektora AI. "Firmy SI (zajmujące się sztuczną inteligencją - przyp. red.) muszą niezwłocznie ujawniać incydenty z udziałem swoich modeli i podejmować szybkie, zdecydowane działania naprawcze" - podkreślił nowy organ.

Biały Dom żąda pełnej transparentności

Zespół oczekuje od firm współpracy z poszkodowanymi systemami, by zapobiec podobnym zdarzeniom. Szef organu i zarazem dyrektor wywiadu narodowego Jay Clayton oraz przedstawiciele SI Force zażądali od Anthropic "natychmiastowej i pełnej transparentności" wobec podmiotów, których sprawa dotyczy, oraz opinii publicznej, a także zadośćuczynienia poszkodowanym.

W oświadczeniu zapowiedziano, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności "nie będą tolerowane". Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.

Nie wiadomo, jakie kary grożą firmom

Axios zwrócił uwagę, że oświadczenie nie precyzuje mechanizmów egzekwowania ani kar za niedopełnienie obowiązku. Dotychczasowe podejście administracji do regulacji AI opierało się na samoregulacji i dobrowolnych zobowiązaniach, w tym na deklaracji podpisanej przez Trumpa i szefów sześciu firm podczas niedawnego spotkania w Białym Domu.

Zgłoszone przez Anthropic incydenty to już kolejne w długiej serii transgresji dokonywanych przez szkolone przez firmy AI zaawansowane modele. Wcześniej ujawniono m.in. włamania modeli OpenAI na rządowe strony w Australii i USA, oraz na systemy innej firmy AI, Hugging Face.