Facilita la IA la producción de contenidos violentos en redes: estudio

Lo que parece una tendencia de Internet está adquiriendo un giro oscuro. Videos generados con inteligencia artificial (IA), protagonizados por frutas y verduras animadas, están incorporando escenas de violencia gráfica, tortura y referencias a grupos extremistas, de acuerdo con una investigación publicada por el Global Network on Extremism and Technology (GNET).

El estudio, publicado el 10 de agosto por Alessandra Pugnana, Grazia Ludovica Giardini y Eleonora Ristuccia, analiza cómo esta tecnología está facilitando la producción masiva de contenidos violentos diseñados para circular en redes sociales. La investigación identifica estos videos como parte del fenómeno conocido como “AI slop”, generado de manera rápida, barata y masiva, generalmente con poca intervención humana, con el objetivo de captar visualizaciones, reacciones y tiempo de consumo.

Entre los contenidos monitoreados por GNET aparece una variante conocida como AI fruit/vegetable gore, donde personajes como zanahorias, papas y otras frutas o verduras antropomorfizadas son utilizados para representar escenas en situaciones que incluyen mutilaciones, tortura y otras formas de violencia gráfica extrema. Para los investigadores, esta estética presenta material perturbador como si fuera humor o entretenimiento. El análisis encontró además contenidos que incorporan referencias visuales y narrativas asociadas con la violencia de los cárteles, el extremismo yihadista, el extremismo de derecha y el nihilismo violento. Algunos utilizan elementos que recuerdan a propaganda terrorista o a comunidades extremistas presentes en Internet. Consulta el estudio completo en: https://shorturl.at/SLbuq