Google alarmuje: AI miała samodzielnie przeprowadzić cyberatak. Trop prowadzi do rosyjskojęzycznych hakerów

Rosyjskojęzyczni hakerzy, używając agenta stworzonego przez sztuczną inteligencję, przeprowadzili pierwszy w historii w pełni zautomatyzowany cyberatak. „Wydarzenie to może stanowić punkt zwrotny w wykorzystaniu AI do przeprowadzania cyberataków” - podaje Politico.
Zdj. poglądowe /Shutterstock
Google opisuje przełomowe wykorzystanie AI
Jak poinformował w Google, rosyjskojęzyczni hakerzy stworzyli agenta opartego na sztucznej inteligencji, który przeprowadził – najprawdopodobniej pierwszy w historii – w pełni zautomatyzowany cyberatak.
Dział Google zajmujący się analizą zagrożeń cybernetycznych poinformował, że wykryto hakerów wykorzystujących sztuczną inteligencję do „pełnej automatyzacji procesu wykrywania luk w zabezpieczeniach oraz ich wykorzystywania – po raz pierwszy bez udziału człowieka”.
Hakerzy, którzy w dokumentacji technicznej posługiwali się językiem rosyjskim, co ustalili eksperci Google, stworzyli zestaw agentów opartych na sztucznej inteligencji. Agenci ci „w sposób ciągły porównywali kod przed i po wprowadzeniu poprawek, identyfikowali luki w zabezpieczeniach i automatycznie opracowywali exploity (czyli kod, skrypt, sekwencję poleceń lub jej fragment), bez udziału człowieka” – podało Politico, powołując się na informacje Google.
Celem hakerów były francuskie serwisy internetowe z sektora mediów, rozrywki oraz edukacji.
Do tej pory nawet najbardziej zaawansowane modele AI zazwyczaj wymagały wsparcia wykwalifikowanych hakerów, którzy nimi kierowali, albo poprawiali popełniane przez nie błędy. Jak podaje Politico, kluczowa zmiana polega na tym, że modele AI pozwalają hakerom przyspieszyć ataki i uczynić je bardziej precyzyjnymi.
AI, czyli broń obosieczna
Jak przypomina Politico, bezprecedensowe zmiany w całkowitym wykorzystaniu sztucznej inteligencji do przeprowadzania cyberataków to kwestia, która od czasu udostępnienia w kwietniu przez firmę Anthropic specjalistycznego modelu o nazwie Mythos, budzi niepokój nie tylko wśród socjologów, antropologów, ale także polityków.
Dość wspomnieć o tym, że na przykład we wrześniu tego roku były prezydent USA Barack Obama ostrzegał podczas publicznych spotkań, że sztuczna inteligencja to dziedzina, która rozwija się w bardzo szybkim tempie w rękach prywatnych podmiotów, i „jeśli nie zapanujemy nad tym procesem, może on stać się niebezpieczny”. Coraz więcej amerykańskich ustawodawców domaga się też zaostrzenia przepisów dotyczących systemów sztucznej inteligencji.
Ten rozwój sytuacji prawdopodobnie zaniepokoi rządy oraz operatorów infrastruktury krytycznej, którzy wciąż odczuwają skutki letniego incydentu, w którym agent AI – powiązany z OpenAI – uzyskał dostęp do platformy Hugging Face. Choć tamto działanie było autonomiczne, nie wydawało się mieć na celu wyrządzenia szkód konkretnym podmiotom – w przeciwieństwie do przypadku opisanego przez Google. Niepokój budzi również niedawne odkrycie poważnych luk w języku programowania PHP, na którym opiera się 70 procent zasobów sieci, a także seria ataków na lodówki w supermarketach, o co częściowo obwinia się Iran - podaje Politico.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.