Amerykańska AI na usługach Rosji, Hutich i Iranu

AI wymknęła się spod kontroli. "Człowiek jest słabym ogniwem"

Źródło wideo: TVN24

Źródło zdj. gł.: Tigarto/Shutterstock

Opublikowany w czwartek ponad 150-stronicowy raport informuje o zakłóconych przez amerykańską firmę próbach użycia Claude'a przez przeciwników Ameryki. Chodziło o wykorzystanie najbardziej zaawansowanego modelu Anthropica do celów wojskowych, rozpowszechniania propagandy i cyberszpiegostwa.

AI w służbie wrogów Zachodu

Według autorów dokumentu grupa irańskich użytkowników używała AI produkcji firmy Anthropic do pozyskiwania i kompilowania informacji ze zdjęć, transponderów i satelitów. Celem było śledzenie okrętów USA oraz próby wykrywania słabych punktów w ich systemach komunikacji.

Znaczna część raportu poświęcona jest wykorzystaniu Claude'a przez Rosjan. Wśród nich jest m.in. przypadek grupy - choć według podejrzeń autorów niezwiązanych bezpośrednio z wojskiem lub Kremlem - budujących niemal od zera system autonomicznego roju dronów.

>>> Modele AI znowu wymknęły się spod kontroli. "Poważna, wroga operacja"

Innymi użytkownikami Claude'a mieli być hakerzy rosyjskich służb (znani jako "MidnightBlizzard"), którzy dzięki AI zwiększyki szybkość działania, automatyzując swoje operacje cyberszpiegowskie.

"Przeprowadzili oni operacje atakując cele wywiadu wojskowego w ukraińskich i europejskich rządach, a także organizacje dyplomatyczne i wojskowe oraz osoby powiązane z polityką zagraniczną USA" - czytamy w raporcie. Szczególnym celem grupy miały być firmy związane z technologią dronową.

Chińska propaganda z użyciem Claude AI

Z Claude'a korzystali też rosyjscy propagandyści z państwowych mediów, publikując generowane przez model treści w różnych serwisach w różnych krajach, m.in. Mołdawii czy Republice Środkowoafrykańskiej.

Innym użytkownikiem Claude'a miał być chiński funkcjonariusz wywiadu wojskowego, który wykorzystywał model do tworzenia wewnętrznych raportów dla wysokich rangą oficjeli Komunistycznej Partii Chin (KPCh) lub wojska, m.in. na temat broni energii mikrofalowej oraz na temat łańcucha dostaw potrzebnego do pozyskania komponentów takiej broni.

>>> Rozwój AI jak wzbogacanie uranu. Niepokojące słowa eksperta

W innym opisanym przypadku, Anthropic poinformował, że rebelianci Huti w północnym Jemenie wykorzystali Claude'a do opracowania oprogramowania naprowadzającego dla broni wysokiej klasy, w tym wielostopniowych pocisków balistycznych.

Autorzy ostrzegają, że dzięki AI "wyrafinowane ataki nie wymagają już wyrafinowanych napastników". Do publikacji cyklicznego raportu doszło na tle rosnących obaw o bezpieczeństwo rozwoju sztucznej inteligencji i publicznego odejścia z tego powodu jednego z pracowników Anthropica, Jacoba Coxona. W odpowiedzi rację co do jego obaw przyznał mu szereg innych pracowników z firm branży, wzywając do współpracy i spowolnienia prac nad technologią.