Un agente de IA ha protagonizado un ciberataque en España. La AEPD nunca había visto uno

La Agencia Española de Protección de Datos (AEPD) ha recibido por primera vez la notificación de una brecha de datos personales en la que un tercero habría usado un agente de IA para ejecutar y controlar distintas fases del ataque. No se conoce la empresa que fue atacada ni qué modelo se utilizó, pero para la Agencia esta es una señal de que la amenaza teórica y potencial de la IA es ahora algo real.

Qué ha pasado. Según la información comunicada por la empresa afectada, el agente de IA comenzó buscando vulnerabilidades en archivos genéricos y logró iniciar sesión (login). Una vez dentro del sistema, continuó buscando vulnerabilidades de forma autónoma. Encontró al menos una que le permitió modificar datos personales y acceder a facturas. Hay un detalla relevante: la AEPD todavía tiene que analizar la información recibida y no explica cómo se consiguieron las credenciales para iniciar la sesión.

Esto perfila un futuro inquietante. Una agente de IA va más allá de un chatbot: no solo responde preguntas, sino que es capaz de recibir una petición para llegar a un objetivo, dividirlo en subtareas, y luego usar herramientas, ejecutar código y consultar información para decidir qué hacer a continuación. 

Salto cualitativo. Eso es precisamente lo que le preocupa a la AEPD: la IA no es ya un asistente que ayuda a un ciberatacante humano, sino un atacante virtual autónomo. La agencia habla aquí de un "cambio cualitativo" en el ámbito de la ciberseguridad.

No es un caso aislado. Google advertía hace unos días de que los agentes de IA utilizados por ciberdeincuentes y grupos de espionaje están comenzando a dejar de ser experimentos para convertirse en herramientas potentísimas. Su equipo de inteligencia de amenazas ha desvelado desde grupos que usan modelos de IA para resolver problemas durante una intrusión hasta un proceso completo de robo de credenciales con múltiples agentes. 

Miles de datos en seis horas. Dicha operación logró escalar privilegios y comprometer miles de credenciales en apenas seis horas. Esto supone un riesgo importante, porque los agentes pueden automatizar procesos que ya conocemos y ejecutarlos mucho más deprisa.

La IA al ataque. Esa es precisamente la preocupación que destaca la AEPD: un agente de IA puede analizar varios archivos al mismoi tiempo, probar distintas vías de entrada y modificar su estrategia según lo que encuentra. Además, si consigue una cuenta, una clave o un token con demasiados permisos, puede saltar entre servicios antes de que una empresa detecte algo anómalo. 

Lo de malware se queda corto. Por eso desde la AEPD se indica que las empresas deberían icluir los ataques con agentes de IA como parte de sus análisis de riesgos. Ya no vale con tener una categoría "malware", porque este nuevo tipo de amenazas tienen una escala y se producen a una velocidad mucho mayor.

¿Cómo defendernos? La supervisión humana sigue siendo imprescindible para la Agencia, pero la seguridad ya no puede depender solo de eso. La IA había servido para demostrar que era posible detectar vulnerabilidades y corregirlas, pero con los agentes de IA que pueden usar los ciberdelincuentes, tanto la defensa como el ataque se producen ahora con una velocidad y capacidad que superan la de los expertos humanos. Desde el Centro Criptológico Nacional (CCN) se apunta a este cambio de paradigma, y se ofrece una guía de buenas prácticas para evitar estas amenazas.

Imagen | Chris Ried

En Xataka | Anthropic quiere poner un árbitro a la IA. El problema es quién ha elegido para hacerlo