AI na usługach wrogów USA. Tak Rosja i Iran wykorzystywały amerykański model

Nowy raport firmy Anthropic ujawnia, że sztuczna inteligencja Claude była wykorzystywana przez przeciwników Stanów Zjednoczonych do celów militarnych, propagandowych i cyberszpiegowskich. Irańskie wojsko używało modelu do prób uderzeń na amerykańskie okręty, Rosjanie do budowy autonomicznego roju dronów, a jemeńscy Huti do budowy rakiet balistycznych.

Zdjęcie ilustracyjne /Shutterstock

150-stronicowy raport informuje o zakłóconych przez amerykańską firmę próbach użycia Claude'a przez przeciwników Ameryki, m.in. do celów wojskowych, rozpowszechniania propagandy i cyberszpiegostwa.

Według autorów dokumentu irańska grupa użytkowników używała AI Anthropica, by pozyskiwać i kompilować informacje ze zdjęć, transponderów i satelitów by śledzić okręty USA oraz wykryć ich słabe punkty w systemach komunikacji.

Jak działali Rosjanie?

Znaczna część raportu poświęcona jest wykorzystaniu Claude'a przez Rosjan. Wśród nich jest m.in. przypadek grupy Rosjan - choć według podejrzeń autorów niezwiązanych bezpośrednio z wojskiem lub Kremlem - budujących niemal od zera system autonomicznego roju dronów.

Innymi użytkownikami Claude'a mieli być hakerzy rosyjskich służb (znani jako „MidnightBlizzard”), którzy dzięki AI zwiększyli szybkość działania, automatyzując swoje operacje cyberszpiegowskie.

„Przeprowadzili oni operacje atakując cele wywiadu wojskowego w ukraińskich i europejskich rządach, a także organizacje dyplomatyczne i wojskowe oraz osoby powiązane z polityką zagraniczną USA” - czytamy w raporcie. Szczególnym celem grupy miały być firmy związane z technologią dronową.

Z Claude'a korzystali też rosyjscy propagandyści z państwowych mediów, publikując generowane przez model treści w różnych serwisach w różnych krajach, m.in. Mołdawii czy Republice Środkowoafrykańskiej.

Chińczycy też korzystają z modelu

Innym użytkownikiem Claude'a miał być chiński funkcjonariusz wywiadu wojskowego, który wykorzystywał model do tworzenia wewnętrznych raportów dla wysokich rangą oficjeli Komunistycznej Partii Chin (KPCh) lub wojska, m.in. na temat broni energii skierowanej (mikrofalowej) oraz na temat łańcucha dostaw potrzebnego do pozyskania komponentów takiej broni.

W innym opisanym przypadku, Anthropic poinformował, że rebelianci Huti w północnym Jemenie wykorzystali Claude'a do opracowania oprogramowania naprowadzającego dla broni wysokiej klasy, w tym wielostopniowych pocisków balistycznych.

Autorzy ostrzegają, że dzięki AI „wyrafinowane ataki nie wymagają już wyrafinowanych napastników”. Do publikacji cyklicznego raportu doszło na tle rosnących obaw o bezpieczeństwo rozwoju sztucznej inteligencji i publicznego odejścia z tego powodu jednego z pracowników Anthropica, Jacoba Coxona. W odpowiedzi rację co do jego obaw przyznał mu szereg innych pracowników z firm branży, wzywając do współpracy i spowolnienia prac nad technologią.