Twierdzą, że zablokowali próbę wykorzystania AI do stworzenia broni biologicznej

Jacob Ward w CNN. Modele AI wydostały się z izolowanego środowiska

Źródło wideo: TVN24, CNN

Źródło zdj. gł.: Shutterstock

W opublikowanym raporcie firma Anthropic uznała wykorzystanie AI do szkodliwych działań w dziedzinie biologii za jedno z "najpoważniejszych zagrożeń" związanych z tą technologią.

AI a broń biologiczna

Raport opisuje pięć przypadków, w których użytkownicy "obchodzili zabezpieczenia" ograniczające dostęp z określonych regionów. Według firmy "podejmowali też inne próby ukrycia celu swoich badań, aby ominąć nasze zabezpieczenia".

Analiza 30 dni aktywności pozwoliła zidentyfikować około 35 "odrębnych przedsięwzięć badawczych", w których pojawiły się potencjalnie niepokojące działania.

Anthropic przyznał jednak, że nie mógł ustalić, czy użytkownicy "zamierzali wyrządzić szkodę", czy prowadzili badania w uzasadnionych celach naukowych. Osoby opisane w pięciu przypadkach firma określiła jako "czynnych naukowców". Nie ujawniła ich instytucji ani krajów, w których pracowali.

Badania nad wirusami i toksynami

Jeden z przypadków dotyczył prośby o pomoc w napisaniu wniosku o finansowanie badań nad wirusem chikungunya. Chodziło o badania nad uzyskiwaniem przez wirusa nowych lub wzmocnionych właściwości, związanych z jego zdolnością do przenoszenia się i przełamania odporności organizmu.

Inny naukowiec, pracujący poza Stanami Zjednoczonymi, wykorzystywał Claude'a w badaniach nad ptasią grypą. Dotyczyły one przystosowania wirusów do ssaków oraz mechanizmów wywoływania ciężkiej choroby.

Firma opisała również prace nad ortopokswirusami, do których należą wirusy ospy prawdziwej i mpox, a także nad nowymi rodzajami jadu i toksyn.

Zastosowanie AI

Opracowywanie leków uchodzi za jedno z najbardziej obiecujących zastosowań sztucznej inteligencji. Przedstawiciele branży wskazują między innymi na jej potencjał w poszukiwaniu sposobów leczenia nowotworów i innych chorób.

Jednak te same możliwości, które pomagają odkrywać nowe leki, mogą również posłużyć do rozwijania broni biologicznej.

Anthropic podkreślił, że chce, aby jego modele wspierały naukę. Zaznaczył jednak, że najnowsze systemy potrafią wykonywać znacznie bardziej złożone zadania niż wcześniejsze wersje. Wraz z korzyściami rośnie więc ryzyko nadużyć.

"W miarę jak nasze modele zyskują coraz większe możliwości i w trudnych zadaniach naukowych zbliżają się do poziomu ekspertów lub go przewyższają, spodziewamy się, że ich wpływ będzie tylko rósł, zarówno w zastosowaniach korzystnych, jak i potencjalnie szkodliwych" - napisano w raporcie.

Firma ostrzegła również, że sprawcy mogą powoływać się na pożyteczne zastosowania badań biologicznych, aby "zachować możliwość wiarygodnego zaprzeczania" szkodliwym zamiarom.

Anthropic ostrzega

Według firmy rosnąca popularność AI daje jej twórcom dostęp do informacji o zagrożeniach, których inne instytucje mogą nie dostrzegać.

"W miarę upowszechniania się modeli AI ich dostawcy będą zyskiwać coraz lepszy wgląd w rzeczywiste zastosowania istotne dla rozpoznawania zagrożeń. Takiego wglądu nie mają nawet rządy i organizacje międzyrządowe" - stwierdzono w raporcie.

Anthropic poinformował, że nowsze modele, w tym Claude Fable 5, mają "silniejsze zabezpieczenia, które ograniczają możliwość uzyskania odpowiedzi na szeroki zakres pytań dotyczących badań biologicznych o podwójnym zastosowaniu". Chodzi o badania, których wyniki mogą służyć zarówno pożytecznym, jak i szkodliwym celom.

Firma przekazała, że ma dowody na skuteczność obecnych zabezpieczeń. Zastrzegła jednak, że rozwój modeli i coraz bardziej złożone zagrożenia będą wymagały jeszcze lepszych systemów ochrony.

Ja wykorzystywany jest Claude

Raport dotyczy również udaremnionych prób wykorzystania Claude'a do inwigilacji, oszustw i rozwijania broni konwencjonalnej, w tym dronów oraz pocisków. Według Anthropic w działania te mieli być zaangażowani użytkownicy z Chin, Rosji i Jemenu.

"Zaawansowane ataki nie wymagają już od sprawców zaawansowanych umiejętności. Zdolności modeli AI w dziedzinie cyberbezpieczeństwa zniwelowały różnicę w nakładzie pracy i dostępie do narzędzi, która wcześniej dzieliła dobrze wyposażone operacje wspierane przez państwa od pojedynczych osób" - napisano.

Według raportu osoby podejrzewane o związki z chińskimi władzami wykorzystywały Claude'a do inwigilacji i działań wymierzonych w Ujgurów w Sinciangu oraz wspólnoty religijne. Wśród celów wskazano katolickich kardynałów w Azji, Kościół Prezbiteriański na Tajwanie i buddystów tybetańskich.

Jeden z użytkowników, prawdopodobnie powiązany z chińskim wojskiem, miał sądzić, że korzysta z modelu Kimi firmy Moonshot. Według Anthropic jego zapytania, zawierające także poufne informacje klientów Moonshot, przekierowywano jednak do Claude'a. Firma opisała podobne próby potajemnego przekazywania zapytań przez inne chińskie przedsiębiorstwa, w tym DeepSeek.

CNN zwrócił się o komentarz do chińskich władz oraz firm DeepSeek i Moonshot, ale nie otrzymał odpowiedzi.

Użytkownicy z północnego Jemenu mieli natomiast wykorzystywać Claude'a do tworzenia oprogramowania naprowadzającego dla systemów rakietowych. Raport nie wskazał ich bezpośrednio. Według CNN opis może odnosić się do wspieranych przez Iran rebeliantów Huti.