Una campaña iraní publicó artículos falsos en medios estadounidenses reales utilizando ChatGPT

“La factura la pagarán los estadounidenses mucho después de que terminen los combates”, advertía el mes pasado un artículo de opinión en el Port St. Joe Star —un pequeño semanario de Florida— sobre la guerra con Irán.

El artículo apareció firmado por Ervin Hoskins, un nombre que también ha figurado en textos críticos con la guerra publicados en medios de mayor alcance, como Daily Kos y Middle East Monitor ; ambos suman más de tres millones de seguidores en Facebook.

PUBLICIDAD

Sin embargo, OpenAI —la empresa creadora de ChatGPT— declaró el jueves que los supuestos trabajos de Hoskins fueron generados mediante su chatbot por usuarios radicados en Irán, como parte de una “campaña de influencia”. Según la compañía, dicha campaña logró colocar cerca de 100 artículos falsos en al menos 20 medios de comunicación.

La fotografía del autor que acompañaba a la columna de Hoskins publicada por el Star fue generada con herramientas de inteligencia artificial de OpenAI, según la herramienta de verificación en línea de la propia empresa.

A medida que las herramientas de inteligencia artificial ganan potencia, algunos medios se han visto obligados a retirar contenidos generados por IA y publicados bajo firmas falsas que, en un principio, pasaron inadvertidas para los editores. El año pasado, Business Insider y Wired retiraron una serie de artículos firmados por Margaux Blanchard que, al parecer, habían sido creados mediante inteligencia artificial.

PUBLICIDAD

Si bien no estaba claro quién —o qué— se ocultaba tras los textos atribuidos a Blanchard y a otras identidades aparentemente ficticias, OpenAI reveló el jueves, en un informe sobre el uso de ChatGPT en campañas de influencia política, que Hoskins formaba parte de una operación destinada a difundir contenidos sobre una posible acción militar estadounidense en Irán. Muchos de estos artículos subrayaban las repercusiones negativas que la guerra tendría para los estadounidenses.

OpenAI señaló que Hoskins era una de las siete firmas utilizadas en esta serie de artículos generados por IA, creados por usuarios que enviaban instrucciones al chatbot en persa. Según la compañía, las operaciones parecían estar dirigidas por una entidad comercial como una “campaña de influencia por encargo”. (The Washington Post mantiene un acuerdo de colaboración de contenidos con OpenAI).

PUBLICIDAD

David Adlerstein, editor del Port St. Joe Star , explicó por correo electrónico que la columna de Hoskins llamó su atención después de que se la propusiera PeaceVoice, un pequeño think tank de tendencia progresista con sede en Oregón que llevaba “años” enviando contenidos al Star . El condado de Gulf, donde se encuentra Port St. Joe, tiene una población de unos 15.000 habitantes.

“Como estamos en una zona de Florida de marcada tendencia republicana, normalmente no publico columnas de PeaceVoice; sin embargo, esta me pareció que invitaba a la reflexión y no constituía un ataque estridente contra el Sr. Trump, lo cual habría resultado problemático para gran parte de nuestros lectores”, comentó Adlerstein. Según explicó, dada su relación previa con PeaceVoice, no consideró necesario verificar el origen de la columna ni la identidad del autor.

PUBLICIDAD

Tom Hastings, director fundador de PeaceVoice, señaló que la organización reforzó su política vigente de no utilizar inteligencia artificial después de que OpenAI se pusiera en contacto con él.

OpenAI informó que había suspendido las cuentas responsables de la campaña y que bloquea el acceso a ChatGPT desde Irán.

“La actividad general parecía coherente con la de un actor comercial que lleva a cabo una campaña de influencia por encargo, aunque no podemos identificar al actor concreto implicado”, afirmó la empresa en su informe. “Hemos compartido información sobre este caso con las autoridades competentes”.

Middle East Monitor y Daily Kos comunicaron que habían retirado los artículos publicados bajo los nombres de autores ficticios.

Los artículos de Hoskins en Daily Kos aparecieron en una plataforma comunitaria que no está sujeta a revisión por parte del personal del medio antes de su publicación. Markos Moulitsas, fundador del sitio, declaró por correo electrónico que dicha campaña resultaba “increíblemente corrosiva” para la plataforma y que estaba estudiando cómo evitar incidentes futuros.

PUBLICIDAD

“Ya tenemos problemas con miembros de la comunidad que acusan a otros de ser bots o cuentas falsas simplemente porque no están de acuerdo con ellos. Una operación como esta echa gasolina a ese fuego”, afirmó. “Está en juego la confianza misma de nuestra comunidad”.

Los artículos redactados por autores que, según OpenAI, formaban parte de la campaña iraní abordaban diversos temas relacionados con Oriente Medio, aunque a menudo criticaban las repercusiones de la guerra de Irán para los estadounidenses. Muchos de los medios en cuestión se centraban en política y asuntos exteriores.

Tras generar artículos en inglés, los usuarios de ChatGPT en Irán pedían al chatbot que ajustara el borrador para cumplir con los criterios de envío de un medio específico y que redactara un correo electrónico de propuesta para enviárselo a un editor de dicho medio. A los supuestos autores de los artículos se les describió como redactores independientes, analistas de políticas y defensores de la paz. Middle East Monitor, medio que se define como partidario de la causa palestina, había publicado al menos 21 artículos bajo firmas que OpenAI calificó de falsas, incluidas las de Hoskins, Michael Harrison, Jenny Williams y Alice Johnson.

PUBLICIDAD

Algunas de las firmas de autor, incluida la de Hoskins, también aparecen en cuentas de redes sociales —y en un caso, en un perfil de la plataforma de blogs Medium— que compartían nombre e imagen de perfil con los artículos publicados. Una cuenta de correo electrónico, aparentemente utilizada para enviar el artículo de Hoskins a PeaceVoice, y una cuenta de LinkedIn a su nombre con una foto que aparecía junto a algunas de las firmas, no respondieron a una solicitud de comentarios.

Al menos otra supuesta autora, Ericka Feusier, utilizó una foto de perfil generada por inteligencia artificial, según la herramienta de OpenAI que verifica si las imágenes fueron creadas con la tecnología de la compañía.

PUBLICIDAD

El informe de OpenAI sobre campañas de influencia llevadas a cabo con su tecnología también describía un grupo de cuentas de ChatGPT en Rusia que fueron bloqueadas tras utilizarse para gestionar lo que parecía ser un centro de estudios falso en América Latina. OpenAI señaló que había indicios de que el proyecto podría haber captado a personas reales para trabajar en la organización.

La empresa de IA afirmó que publicó la investigación para informar a los reguladores, a otras compañías y al público sobre “cómo vemos a los actores de amenazas intentar aprovechar la IA, y para sacar a la luz las vulnerabilidades que tratan de explotar”.

PUBLICIDAD

Los medios afectados por la campaña tienen alcances muy diversos. Sin embargo, aunque parece que publicaron artículos generados por IA bajo firmas falsas, hubo personas reales que los leyeron.

La columna de Hoskins en el Star motivó una carta al director, algo poco habitual para un artículo de opinión sobre un tema de alcance nacional, comentó Adlerstein. Añadió que ahora está considerando implementar una política explícita sobre el uso de IA.

Hastings, de PeaceVoice, dijo que el artículo le pareció auténtico cuando lo vio.

“No encontré nada especialmente favorable a Irán en su trabajo —algo que jamás publicaría—, sino simplemente una crítica legítima a la guerra elegida por Trump. Si el Sr. Hoskins envía otro artículo, simplemente exigiré que nos reunamos por Zoom para comentarlo”, escribió en un correo electrónico. “Al menos por ahora, es lo mejor que puedo hacer”.