El riesgo de la IA no va a parecerse a Terminator. Se parecerá a lo que acaba de pasar en 500 supermercados franceses

La noche del domingo al lunes, los frigoríficos de cientos de supermercados franceses se descongelaron a la vez. Alguien activó a distancia los ciclos de desescarche de sus controladores. El ataque alcanzó al menos 300 establecimientos de Intermarché y Netto, más de 100 de Coopérative U y varios de E.Leclerc; Carrefour ha comunicado 80 supermercados afectados.

No sabemos quién lo hizo ni si hubo IA implicada. Pero lo importante de este caso no depende de eso. Porque es un ejemplo de manual de lo que ya permite la IA.

Por qué es importante. Cuando hablamos de los riesgos de la IA pensamos en cosas de película de ciencia-ficción. Pero el problema real, el que ya podemos ver este año, se parece más a este caso: algo medio aburrido, físico y barato de hacer, pero con consecuencias destructivas.

El contexto. El fallo no es nuevo. Danfoss, el fabricante de los controladores, ha reconocido que algunos de los controladores afectados ya no reciben actualizaciones, y que ya hubo ataques parecidos en supermercados de Rusia e Israel en 2022.

La diferencia con aquellos ataques es la escala. Antes eran casos sueltos, pero ahora hablamos de más de 500 tiendas en una noche.

Entre líneas. Estos aparatos llevan años “protegidos” porque atacarlos daba mucha pereza: había que encontrarlos uno a uno, entender un software extraño y adaptar el ataque a cada versión. Ese trabajo tedioso, casi disuasorio, es justo lo que la IA abarata.

UN VISTAZO A...

Anthropic lo contó en su informe de septiembre: los atacantes ya le pasan fases enteras del ataque a la IA, y eso acerca mucho lo que puede hacer un grupo pequeño a lo que antes solo podía hacer alguien con muchos recursos, alguien como un Estado.

Y ni siquiera hace falta mala intención. A un modelo de OpenAI en pruebas le pidieron hace unos meses buscar datos de gasto en medicamentos en Australia. Acabó colándose en un portal sanitario, ejecutando comandos y llevándose archivos y credenciales. La propia OpenAI tardó meses en enterarse. 

No es la primera vez. En agosto, en una base militar de Arizona, todos los congeladores se pusieron en modo desescarche a la vez durante la noche. Pasó en tiendas de bases de al menos nueve estados casi al mismo tiempo.

No hay ninguna conexión demostrada con Francia y es muy posible que no la haya, pero el truco es el mismo, en dos continentes, con dos meses de diferencia.

Sí, pero. El problema de fondo no es solo la IA, es el ritmo:

• El que ataca va a velocidad de software. El que defiende, a velocidad de hardware.
• Un controlador viejo a menudo no se arregla con una actualización OTA sin más: hay que cambiarlo, tienda por tienda, con un técnico.
• Hemos conectado a Internet dispositivos pensados para durar veinte años justo cuando atacarlos se ha vuelto muy fácil.

En resumen. Lo que ha protegido a esta infraestructura durante todos estos años era que atacarla era viable, pero costaba mucho esfuerzo y el "premio" no compensaba. La IA va de quitar esfuerzo. Por eso el riesgo no va a llegar con una máquina que decide hacernos daño, sino con algo mucho más tonto: que hacernos daño entre nosotros sea cada vez más fácil.

Imagen destacada | Carrefour

En Xataka | La IA está rompiendo todas las barreras de la ciberseguridad. Ha conseguido hackear a los hackers