Rozwój AI jak wzbogacanie uranu. Niepokojące słowa eksperta

Prawne i etyczne granice AI

Źródło zdj. gł.: Adobe Stock

Znawca AI i autor nagrodzonej przez "Financial Times" książki "Myśląca maszyna" zwraca uwagę, że w ostatnich tygodniach, po skoordynowanym ataku 700 agentów AI na firmę Hugging Face, w istotny sposób zmienił się sposób myślenia o sztucznej inteligencji.

AI wymyka się spod kontroli

Cyberatak na system Hugging Face, którego nie zlecili ludzie, nastąpił w lipcu, a modele AI koordynowały między sobą tę operację na zhakowanym przez siebie forum dyskusyjnym. Firma zgłosiła incydent do FBI.

W tekście pt. "Jest naprawdę bardzo źle" autor podkreśla, że eksperci na całym świecie zaczynają zdawać sobie sprawę, że "AI może nie być już całkowicie kontrolowana przez ludzi".

Roje modeli AI są w stanie wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować ataki na komputery. Sztuczna inteligencja buntuje się - wylicza Witt.

Nawiązuje do wydarzenia, które niedawno skłoniło Jacoba Coxona, badacza zajmującego się szkoleniem modeli AI, do odejścia z firmy Anthropic. Coxon zarzucił swej spółce i rywalizującej z nią OpenAI nieodpowiedzialne dążenie do stworzenia superinteligencji i "igranie z życiem" ludzi.

Zamierzony cyberatak modeli

Witt uważa, że zmiana nastawienia do rozwoju sztucznej inteligencji jest przede wszystkim pochodną tego, co naukowcy zaczęli nazywać "incydentem Hugging Face", który wpłynął również na decyzję Coxona. Cyberatak modeli był "zamierzony, wytrwale przeprowadzany i skoordynowany. Zajął kilka dni (...). AI oszukiwały prawie dla zasady i nie poinformowały ludzi o swej akcji" - podkreśla.

Z raportu w sprawie tego incydentu wynika, że modele "zdecydowanie wiedziały, że nie miały hakować Hugging Face (...). Wiedziały, że to co robią, to oszustwo".

Pod koniec ubiegłego tygodnia pokazał się raport, dotyczący "roju modeli AI" firmy OpenAI, które wdarły się do internetu i zhakowały niemiecką platformę dla programistów. Jeden z autorów raportu Sydney Von Arx uważa, że mogło dojść do wielu takich ataków.

Konsekwencje utraty kontroli

Chyba najbardziej niepokojące jest jednak to - ocenia Witt - że już po incydencie Hugging Face rój wrogich modeli przejął grupę komputerów firmy OpenAI; takie wydarzenie jest uważane za pierwszy krok do "całkowitej utraty kontroli przez ludzi".

Bez interwencji w rozwój sztucznej inteligencji możliwości modeli będą stale rosły, co może oznaczać, że nasza zdolność do ich kontrolowania może się kurczyć, lub nawet, że stracimy ją w ogóle - wyjaśnia ekspert.

Zwraca uwagę, że Daniel Kokotajlo, który był badaczem OpenAI i opuścił firmę w 2024 roku, a następnie stał się jednym z głównych ekspertów ostrzegających przed zagrożeniami ze strony AI, teraz ocenia ryzyko "globalnego, katastrofalnego" incydentu na około 70 proc.

Apel o uregulowanie AI

Jeszcze przed opublikowaniem raportów na temat zbuntowanych agentów AI w środowisku firm specjalizujących się w sztucznej inteligencji pojawił się list otwarty, podpisany przez ponad tysiąc specjalistów, w tym szefa Anthropic Dario Amodei. Autorzy apelują do rządu USA o utworzenie "międzynarodowego organu regulującego AI" i świadome, zaplanowane spowolnienie rozwoju modeli sztucznej inteligencji.

USA nie mogą same regulować AI. "Potrzebujemy globalnej agencji monitorującej, podobnej do tej, która bada wzbogacanie uranu (...). Mamy niewiele czasu, by poddać je kontroli" - ostrzega Witt na zakończenie.