José Murat / V: Los nuevos señores feudales: la IA y la amenaza de la ultraderecha

na de las consecuencias nefastas de la falta de regulación y control sobre la inteligencia artificial (IA), con sus efectos desestabilizadores esparcidos por sus dueños, los nuevos billonarios, los señores feudales del siglo XXI, es el crecimiento desmesurado de la ultraderecha en el mundo, en Europa, Asia y aquí mismo, en el continente americano.

Sobran los ejemplos de cómo las redes sociales, con logaritmos manipulados y direccionados, han demolido democracias y derribado gobiernos. Sin un sistema de control sobre la veracidad de las noticias, basta la difusión de contenidos difamantes sobre algún personaje, algún candidato o alguna postura política para incidir de manera determinante en los resultados electorales.

Así se decantó la salida de la Gran Bretaña de la Unión Europea (UE), el llamado Brexit, votado el 23 de junio de 2016 y hecho efectivo de forma oficial el 31 de enero de 2020: la opción de salida se alimentó con datos falsos en las plataformas digitales y las redes sociales sobre las aportaciones económicas de ese país al bloque europeo, los daños inventados que la UE generaba a la economía local, la amenaza infundada del libre tránsito de personas y por esa vía la inmigración de otros continentes, como el africano, para que la derecha xenofóbica y antieuropea se impusiera, movimiento retrógrada encabezado por Boris Johnson y secundado por otros líderes conservadores.

Campañas a favor de la salida, como Vote Leave, destinaron grandes sumas de dinero a empresas de análisis de datos e inteligencia como AggregateIQ y Cambridge Analytica. Utilizaron datos de usuarios de Facebook para mostrar anuncios políticos altamente personalizados según los miedos e intereses de cada persona: las redes se inundaron de contenido falso ( fake news), exageraciones sobre la soberanía nacional y mensajes centrados en generar temor respecto a la inmigración (como el conocido cartel Breaking Point, de Nigel Farage).

Precisamente, como resultado de esa campaña antieuropea y antinmigrante, tras la dimisión de Theresa May, Johnson asumió como primer ministro de la Gran Bretaña en julio de 2019, con la promesa de “culminar el Brexit”. Apenas tres años después ese excéntrico y arcaico personaje fue defenestrado.

Otro ejemplo del papel decisivo jugado por las redes sociales y los algoritmos manipulados fue el genocidio de Myanmar (Birmania), en el sudeste asiático, marzo de 2018, donde concretamente la plataforma Facebook jugó un papel central en la propagación de mensajes de odio, repetidos y reditados, lo que detonó en la masacre de más de 650 mil musulmanes, según investigadores de derechos humanos de la ONU.

Un ejemplo de uso tendencioso y decisivo de las redes sociales, para no ir tan lejos, fue la decisión de la plataforma digital Meta (propietaria de Facebook e Instagram) de desactivar temporalmente la cuenta de anuncios y la restricción de la página oficial del presidente de Brasil, Lula da Silva, el bloqueo pues, en plena campaña electoral, a semanas de celebrarse la primera vuelta de las elecciones presidenciales, uno de los factores que se sumaron para su estrecha derrota, misma que podría remontar en la segunda vuelta.

Pero no es sólo el uso potencialmente tendencioso de los datos y el acceso o bloqueo a las plataformas digitales. La inteligencia artificial sin control ha escalado monumentalmente el efecto nocivo del uso masivo de los datos personales.

Trabajos de investigación de organizaciones como AI Forensics y análisis de medios, como The Guardian, destacan que la IA generativa puede producir, sin ninguna restricción, imágenes, videos, audios y textos falsos o sesgados, permitiendo a ciertos grupos de la extrema derecha moldear narrativas, distorsionar hechos históricos o influir en procesos electorales con menor resistencia institucional. Exacerbar la mentira y el engaño, en una palabra.

La ultraderecha ha encontrado en la inteligencia artificial y las redes sociales poderosas herramientas para manipular las narrativas, distorsionar hechos históricos y reforzar su agenda política. Por ejemplo, para citar un ejemplo, el caso de la ultraderecha en España, el diputado de Vox Manuel Mariscal Zabala aprovechó un pleno del Congreso para asegurar que “gracias a las redes sociales”, los jóvenes ahora entienden el franquismo no como una época “oscura”, sino como un periodo de “reconciliación y progreso”. Esas desafortunadas e infundadas declaraciones las emitió justo antes de que iniciara 2025, a 50 años de la muerte del dictador.

En Alemania, grupos racistas de extrema derecha han manipulado los modelos de inteligencia artificial para glorificar la ideología nazi, a través de la simulación de conversaciones con responsables del Holocausto. La aplicación Historical Figures, por ejemplo, permite a los usuarios chatear con personajes como Adolf Hitler o Joseph Goebbels, donde estas figuras oprobiosas justifican el Holocausto, la masacre de los judíos, y terminan rescribiendo la historia: ellos como héroes, las víctimas como responsables de su infausto destino.

En Italia, el partido extremista Lega también hapublicado numerosas imágenes generadas por IA, imágenes crudamente tránsfobas e islamófobas. Otra temática habitual es la crítica a la Unión Europea. Por ejemplo, Salvini publicó en su cuenta de X imágenes de mujeres y niños comiendo insectos, para impulsar la descabellada teoría conspiratoria que asegura que la UE prepara a la población para alimentarse de esa manera.

Son sólo unos ejemplos de cómo una herramienta valiosa en sí misma, la inteligencia artificial, usada tendenciosamente, puede ser, de manera creciente, un arma letal de la ultraderecha neofascista. Ya lo está siendo.