Google detecta el primer ciberatac del tot automatitzat amb intel·ligència artificial

Google ha detectat el que considera el primer cas d’un ciberatac en què la intel·ligència artificial ha automatitzat la descoberta i l’explotació de vulnerabilitats informàtiques sense intervenció humana.
Segons un informe publicat avui pel grup d’intel·ligència d’amenaces de Google (GTIG), uns atacants van desenvolupar un sistema d’agents d’IA capaç d’analitzar programari, identificar-ne les febleses i crear automàticament els codis necessaris per aprofitar-les. L’operació es va dirigir contra webs franceses dels sectors dels mitjans de comunicació, l’entreteniment i l’educació.
La investigació representa un pas més en l’ús de la intel·ligència artificial en la ciberdelinqüència. Fins ara, els models més avançats podien accelerar diferents fases d’un atac, però encara necessitaven que un operador humà els guiés o corregís els errors. En aquest cas, en canvi, Google assegura que ha identificat per primera vegada una operació en què la descoberta de vulnerabilitats i el desenvolupament dels mecanismes per explotar-les es van fer de manera completament automatitzada.
Indicis d’un operador de parla russa
Google ha trobat indicis que apunten a un possible origen rus dels responsables de l’operació. Concretament, els investigadors van localitzar comentaris escrits en rus en els fitxers de configuració del sistema utilitzat per als atacs. Un dels missatges contenia instruccions per introduir manualment les claus d’accés als models d’intel·ligència artificial.
La companyia, tanmateix, no ha pogut identificar els responsables ni atribuir l’operació a cap grup concret de ciberdelinqüència. Tampoc no ha establert cap vinculació amb el govern rus. Per tant, els indicis lingüístics permeten apuntar a un operador de parla russa, però no determinar-ne la identitat ni l’eventual relació amb cap estat.
El sistema, batejat com a “exploit_agent”, es va localitzar en un servidor de proves exposat a internet que allotjava una plataforma de recerca de vulnerabilitats basada en diversos models de llenguatge, tant comercials com d’accés local. El programa comparava contínuament el codi de diferents aplicacions abans i després de la publicació d’una actualització de seguretat. A partir de les diferències, identificava possibles errors, elaborava els codis per explotar-los i els executava automàticament.
Google també va trobar al servidor dades extretes de les organitzacions atacades i diversos scripts que permetien fer reconeixement de les xarxes internes, provar contrasenyes de manera massiva i instal·lar programes maliciosos per mantenir-hi l’accés.
Els atacs amb agents d’IA guanyen autonomia
L’informe alerta que els atacants han començat a anar més enllà de l’ús puntual de models d’IA per redactar codi o accelerar tasques. Cada vegada fan servir més sistemes multiagent, en què diversos agents especialitzats treballen coordinadament per executar diferents fases d’una intrusió.
Entre les eines identificades hi ha ARTEX, CAIRN, CyberStrikeAI i PentAGI, plataformes de codi obert que permeten automatitzar tasques com ara la identificació de sistemes vulnerables, el desenvolupament d’exploits i l’execució d’atacs. Google també ha detectat l’ús d’aquestes tecnologies en operacions contra objectius de sectors estratègics i en activitats d’espionatge informàtic.
La investigació també identifica l’ús de la IA en campanyes de desinformació. Segons Google, grups vinculats a estats, empreses que ofereixen serveis d’influència i xarxes que busquen beneficis econòmics ja incorporen models de llenguatge per crear continguts sintètics, fabricar perfils falsos adaptats a diferents territoris i automatitzar-ne la difusió a les xarxes socials.
Un altre fenomen que assenyala l’informe és el robatori de credencials i recursos informàtics per accedir il·legalment a models d’intel·ligència artificial. Aquesta pràctica, coneguda com a LLMjacking, permet als atacants aprofitar la capacitat de càlcul i els serveis d’IA de les empreses compromeses i, fins i tot, revendre’n l’accés en mercats clandestins.
Google considera que la combinació d’aquestes eines redueix les barreres tècniques per a fer ciberatacs i permet multiplicar-ne la velocitat i l’abast. Tanmateix, adverteix que els sistemes autònoms actuals encara poden generar informació falsa o identificar vulnerabilitats inexistents, i que deixen rastres informàtics que en poden facilitar la detecció. La companyia preveu que, a mesura que aquestes tecnologies millorin, els atacants necessitaran cada vegada menys intervenció humana.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.