Model AI ominął zabezpieczenia. Pozyskał dane wyborców bez płacenia

Claude'owi udało się ominąć płatny dostęp do spisu wyborców w Georgii w USA. Dane te są publicznie dostępne, ale dostęp do nich wymaga uiszczenia opłaty. Model językowy pozyskał informacje o głosujących bez płacenia.

Odpowiedzialna za produkt firma Anthropic poinformowała, że jej model uzyskał dostęp do zbiorczych wyników głosowania w amerykańskim stanie Georgia w ramach projektu dotyczącego statystyk głosowania.

"Claude nie uzyskał dostępu do stanowego systemu rejestracji wyborców, nie zmieniał żadnych danych ani nie pobierał informacji dotyczących poszczególnych głosujących" — czytamy w oświadczeniu firmy.

Dalszy ciąg artykułu pod materiałem wideo

• Przeczytaj także: AI odkryła lukę, która może zagrozić milionom stron. Polska reaguje

Claude obszedł paywall i pozyskał dane wyborców

Przedstawiciele Anthropic wyjaśnili, że sztuczna inteligencja znalazła lukę w starszej wersji witryny internetowej agencji stanowej. System generował cyfrową przepustkę, tzw. token dostępowy dla odwiedzających. Model wystąpił o taki token i w ten sposób pozyskał informacje.

Twórcy Claude'a poinformowali, że wdrożyli już odpowiednie zabezpieczenia, aby zapobiec powtórzeniu się takich sytuacji w przyszłości. O incydencie jako pierwszy poinformował serwis informacyjny Axios.

Agenci AI włamują się do rządowych instytucji

Firma Anthropic wcześniej wspomniała na swoim blogu, że to nie pierwszy przypadek, kiedy jej model językowy "obchodził ograniczenia", by dotrzeć do danych dostępnych po uiszczeniu opłaty, ale "incydenty miały minimalny wpływ na rzeczywistość". LLM-y miały m.in. przesłać fałszywy donos na policję. Departament Stanu USA ujawnił, że w sierpniu otrzymały od sztucznej inteligencji 19 wniosków wizowych.

Brytyjski "Guardian" zauważa, że rośnie liczba przypadków nieautoryzowanych działań podejmowanych przez agentów AI, czyli przez programy oparte na modelach sztucznej inteligencji, które wykonują zadania w sposób autonomiczny. W lipcu firma OpenAI, odpowiedzialna za ChataGPT, ujawniła, jej model włamał się do HuggingFace, startupu zajmującego się sztuczną inteligencją. Agent oparty na tym modelu miał także dostać się w nieautoryzowany sposób do australijskiego systemu opieki zdrowotnej.

W Stanach Zjednoczonych nowo utworzona przez Biały Dom Super Intelligence Force, czyli federalny organ nadzorujący rozwój AI, nakazuje wszystkim firmom zajmującym się sztuczną inteligencją zgłaszanie incydentów bezpieczeństwa związanych z ich technologiami.