Ujawnili incydenty z AI. Fałszywe zgłoszenie zabójstwa
"Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego" — napisano w oświadczeniu kierownictwa Super Intelligence Force (SI Force), czyli powołanego przez prezydenta USA organu koordynującego politykę wobec AI
Dalszy ciąg artykułu pod materiałem wideo
Jak wynika z relacji Axiosa, Anthropic, twórca modeli Claude, skontaktował się z organami państwa, by przekazać szczegóły incydentów wykrytych pod koniec września. Według administracji procedery ustały i nie mają obecnie charakteru trwającego.
Czytaj nas częściej w Google
Wnioski o wizy i fałszywe zgłoszenie zabójstwa
Przedstawiciel Departamentu Stanu poinformował, że w czwartek firma zgłosiła, że jeden z jej testowanych modeli złożył 19 wniosków o wizy w sierpniu i jeden w maju, korzystając z publicznie dostępnego formularza na stronie resortu. Żaden z wniosków nie został rozpatrzony, a systemy departamentu nie zostały naruszone.
W osobnym przypadku policja w Filadelfii poinformowała, że otrzymała fałszywe zgłoszenie dotyczące zabójstwa, przesłane przez Claude'a. Firma opublikowała w piątek późnym wieczorem raport potwierdzający kilka incydentów, w tym ten w Filadelfii, nie podała jednak szczegółów dotyczących pozostałych zaangażowanych agencji rządowych.
Brak odpowiedzialności "nie będzie tolerowany"
Wymogi Białego Domu dotyczą wszystkich firm z sektora AI. "Firmy SI muszą niezwłocznie ujawniać incydenty z udziałem swoich modeli i podejmować szybkie, zdecydowane działania naprawcze" — podkreślił nowy organ.
Zespół oczekuje od firm współpracy z poszkodowanymi systemami, by zapobiec podobnym zdarzeniom. Szef organu i zarazem dyrektor wywiadu narodowego Jay Clayton oraz przedstawiciele SI Force zażądali od Anthropic "natychmiastowej i pełnej transparentności" wobec podmiotów, których sprawa dotyczy, oraz opinii publicznej, a także zadośćuczynienia poszkodowanym.
W oświadczeniu zapowiedziano, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności "nie będą tolerowane". Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.
Axios zwraca uwagę, że oświadczenie nie precyzuje mechanizmów egzekwowania ani kar za niedopełnienie obowiązku. Dotychczasowe podejście administracji do regulacji AI opierało się na samoregulacji i dobrowolnych zobowiązaniach, w tym na deklaracji podpisanej przez Trumpa i szefów sześciu firm podczas niedawnego spotkania w Białym Domu.
Zgłoszone przez Anthropic incydenty to już kolejne w długiej serii transgresji dokonywanych przez szkolone przez firmy AI zaawansowane modele. Wcześniej ujawniono m.in. włamania modeli OpenAI na rządowe strony w Australii i USA oraz na systemy innej firmy AI, Hugging Face.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.