Incydent w USA na tydzień przed wyborami. AI włamała się do ukrytych danych

• Sztuczna inteligencja Claude ominęła zabezpieczenia paywall i uzyskała dostęp do chronionych danych wyborczych w stanie Georgia bez autoryzacji ludzi.

• Firma Anthropic potwierdziła, że incydent miał miejsce podczas prac wewnętrznych, jednak podkreśliła, że model nie zmodyfikował systemu rejestracji wyborców.

• Biały Dom wiedział o sprawie od kilku tygodni, jednak władze stanu Georgia zwlekały z poinformowaniem opinii publicznej o zaistniałym naruszeniu zabezpieczeń.

Anthropic poinformował w wydanym w niedzielę oświadczeniu, że do incydentu doszło podczas rutynowych prac wewnętrznych. Asystent sztucznej inteligencji Claude był wykorzystywany do stworzenia projektu statystycznego z wykorzystaniem publicznie dostępnych danych.

Podczas pracy system próbował pozyskać informacje dotyczące wyborców ze stanu Georgia. Napotkał na paywall - ograniczenie wykluczające z dostępu do informacji osoby nieuprawnione, które nie uiściły opłaty.

Claude postanowił - bez autoryzacji osób prowadzących test - zawnioskować o klucz dostępu i przeforsować zabezpieczenia. Ostatecznie udało mu się osiągnąć cel i dotrzeć do zabezpieczonych danych.

Asystent AI ominął zabezpieczenia. Dotarł do danych wyborczych

Władze stanu Georgia potwierdziły, że asystent dotarł do zbiorczych informacji wyborczych. Anthropic przekazał w oświadczeniu, że model nie uzyskał dostępu do stanowego systemu rejestracji wyborców, nie wprowadził w nim żadnych zmian i nie pobrał danych dotyczących głosowania.

"Wdrożyliśmy już odpowiednie zabezpieczenia, aby blokować tego typu działania" - poinformowano w wydanym komunikacie, nie wskazując jednocześnie, w jaki sposób Claude'owi udało się obejść paywall.

Serwis Axios, powołując się na źródło zaznajomione ze sprawą, poinformował, że Biały Dom i władze Georgii zostały powiadomione o sprawie już kilka tygodni temu. Administracja USA zwróciła się wówczas do rządu stanowego o ujawnienie incydentu opinii publicznej. Ten, z nieznanych przyczyn, zdecydował się jednak zwlekać.

Incydent z udziałem sztucznej inteligencji. W tle zbliżające się wybory połówkowe

Incydent związany z Claude'em potęguje rosnące obawy dotyczące potencjalnej ingerencji sztucznej inteligencji w zaplanowane na 3 listopada wybory środka kadencji w Stanach Zjednoczonych.

Wcześniejsze głosowanie w stanie Georgia rozpoczęło się już 13 października i potrwa do najbliższego piątku. Do urn mieszkańcy stanu będą mogli się, rzecz jasna, udać również głównego dnia wyborów.

Giganci AI tacy jak Anthropic czy Open AI już w przeszłości informowali o nieautoryzowanych przez człowieka działaniach podejmowanych przez systemy asystentów sztucznej inteligencji.

Źródło: Axios