Michael Krisch: “El periodismo ha hecho un trabajo deficiente al no plantear preguntas difíciles a las empresas tecnológicas”

Todos sabemos que con números se pueden contar buenas historias, pero es cierto que tradicionalmente los apasionados por los guarismos no son predominantes en las salas de prensa en ninguna parte del mundo. Periodistas e ingenieros han mantenido por décadas un matrimonio por conveniencia en los medios, pero el impacto de la vida online ha obligado a unos a ver a otros con un poco más de encanto. Escuelas de Periodismo de todo el mundo comenzaron hace tiempo a ajustar sus currículums para dar cuenta de la nueva realidad, entre ellas la de la Universidad de Columbia en Nueva York, que en 2012 estableció el Brown Institute en sociedad con la Escuela de Ingeniería de la Universidad de Stanford, al otro lado del país. El objetivo: financiar y apoyar iniciativas innovadoras en el mundo de los medios.

Así han desarrollado proyectos como Locale Observer, una herramienta para que medios de prensa y organizaciones filantrópicas identifiquen áreas que reciben poca cobertura, Grades of Heat, que “mapeó” la temperatura promedio en distintas zonas residenciales de Estados Unidos para dar cuenta de cómo la segregación socioeconómica también tenía temperatura y Scorching Cells, un trabajo hecho con Reuters para adaptar la misma lógica al identificar las condiciones de temperatura en las cárceles del país.

“El instituto se fundó gracias a una importante donación de Helen Gurley Brown, quien fue editora de la revista Cosmopolitan durante muchos años, en honor a su difunto esposo, David Brown, productor de cine”, cuenta Michael Krisch, director en funciones del centro. “Él había estudiado tanto en Stanford como en Columbia, y ambos, muy inmersos en el ecosistema de los medios, vieron los enormes obstáculos que enfrentaba la industria para adaptarse”, cuenta.

Hoy, Krisch ve cómo el cambio epocal que supone la revolución de la inteligencia artificial toma un lugar central a la hora de enfrentar la misión del instituto, y observa cómo inevitablemente cualquier conversación al respecto gravita hacia esas dos letras.

“Creo que con el auge de la IA y la cierta homogeneización del vocabulario en torno a la ingeniería, los periodistas aportan conocimientos especializados que la IA no puede ofrecer”, dice Krish, quien estuvo estos días en Santiago en una visita a la Escuela de Periodismo de la UDP en el marco del programa Fulbrigh Specialist, que incluyó un workshop para docentes sobre el uso de herramientas IA. “En cierto modo, creo que esto empodera al periodismo, pero también le quita parte de esa experiencia”, apunta.

Entendemos más sobre la IA desde que existen los modelos de lenguaje actuales, pero ¿cree que existe el riesgo de que los profesionales de los medios crean que todo se reduce al lenguaje?

Existe un riesgo enorme, y nuestra postura es de escepticismo. El estado actual de la IA es relativamente difícil de entender, tanto para un periodista como para un ingeniero. Nadie comprende por qué estos sistemas dan las respuestas que dan. Incluso, los ingenieros más técnicos que entienden cómo se entrenan y ensamblan los modelos comprenden muy poco por qué la predicción es como es. Existe preocupación sobre las capacidades de estas herramientas y hacia dónde se dirigen.

Y en ese escepticismo ¿ve alguna diferencia generacional?

No lo creo. En general, ha habido una aceptación bastante amplia de estas tecnologías, y creo que el periodismo ha hecho un trabajo deficiente al no plantear preguntas difíciles a las empresas tecnológicas. Esto es algo que vimos con Facebook y Google: surgieron con una aceptación generalizada de la tecnología y muchos elogios al intelectualismo que aportaban los directores ejecutivos y los desarrolladores, pero se cuestionó muy poco sobre las ramificaciones de esas tecnologías. Sólo ahora estamos empezando a ver resistencia contra las empresas de IA en algunos lugares, ciertamente en EE.UU., pero ni siquiera son realmente los problemas de raíz que deberían preocuparnos como público en general.

¿Cuáles son esos problemas?

Hay mucha reacción negativa sobre los centros de datos, pero muy poca sobre lo que estas tecnologías están haciendo y cómo podrían estar moldeando nuestros sentimientos, nuestra comprensión del mundo, nuestra forma de interactuar con las noticias y con las fuentes en las que confiamos. Muchos de los proyectos que apoyamos se centran en nuestra capacidad como seres humanos para controlar estos sistemas y asegurar que lo que producen esté realmente alineado con lo que solicitamos al interactuar con un modelo de lenguaje (LLM).

¿Cree que las herramientas de IA sirven para potenciar lo que se hacía o aportan una perspectiva nueva para abordar y descubrir problemas distintos?

La IA se percibe como una tecnología realmente nueva. En el periodismo, las primeras aplicaciones fueron bastante rudimentarias y predecibles, por ejemplo, traducir artículos al español para que el público hispanohablante pudiera acceder al contenido. Más tarde, su uso se amplió hacia el análisis de datos a gran escala, permitiendo examinar documentos que, de otro modo, habrían sido inaccesibles para un periodista. Creo que estamos entrando en una etapa en la que utilizamos herramientas para crear nuevos sistemas, capaces de establecer formas inéditas de conectar e interactuar con las audiencias. Es algo distinto. Se trata de un cambio que quizás no habíamos imaginado: ya no es necesario contar con un equipo de ingeniería dentro de una redacción para desarrollar una nueva herramienta o interfaz que llegue al público. Ante la desaparición de muchos medios locales en Estados Unidos, estas nuevas herramientas resultan fundamentales. Por eso, este es un motivo de optimismo. Esto otorga mayor capacidad a las redacciones de menos recursos.

¿Podrían estas herramientas entonces ayudar a revertir parte del problema de la desaparición de medios locales y su valoración por parte de la comunidad?

Exacto. Es una oportunidad enorme para que los periodistas ganen mayor capacidad de acción y autonomía en lo que respecta a la propiedad de la tecnología. Esa ha sido, precisamente, nuestra postura desde el primer día. En el contexto actual de la IA, se está construyendo mucho, pero eso no significa que se esté construyendo bien. Es un desafío que debemos abordar para garantizar que los medios puedan hacer un buen trabajo. Por otro lado, una de las limitaciones que presentan las plataformas dominantes es que siguen controlando la forma en que el público accede a los medios. Pensemos, por ejemplo, en el buscador de Google. En la época del algoritmo PageRank, si ofrecías contenido de calidad y confiable, tenías muchas posibilidades de aparecer en los primeros puestos. Con la IA no está claro cómo se seleccionan y presentan las noticias cuando, por ejemplo, buscas qué ocurrió ayer en Santiago. Aunque empezamos a entender un poco cómo influir en esa interfaz de búsqueda, el control sigue estando, en gran medida, en manos de Google. Y, como hemos visto en experiencias previas con las grandes empresas tecnológicas, estas pueden cambiar de rumbo en cualquier momento. Y lo habitual con la IA es que las personas se den por satisfechas con la respuesta que obtienen de un modelo de lenguaje (LLM); no sienten la necesidad de buscar la fuente original. Creo que esto es un motivo de preocupación, y debería serlo para todo el sector.

En sus clases y talleres imagino que ha sido testigo de la expectativa, pero también la inquietud por lo que puede traer la IA ¿Cuáles son sus principales recomendaciones a la hora de abordar su uso?

Existe mucha inquietud. La tecnología es una herramienta más, que nos permite experimentar y probar cosas nuevas de una manera que antes era imposible. Por eso, lo primero que solemos decir a los periodistas, y especialmente a los estudiantes, es que vivimos una época apasionante; la capacidad de experimentación actual es inmensamente mayor a la que existía hace apenas tres años. Sin embargo, también conlleva riesgos enormes. El primero es el proceso de verificación, que requiere metodologías específicas, sobre todo al validar análisis de datos a gran escala. Otra preocupación tiene que ver con la información sensible: gran parte de lo que manejamos es hablar con fuentes y acceder a datos a los que otros no tienen acceso, y creo que hay muy pocas razones para confiar en las grandes empresas tecnológicas. Nos han demostrado, una y otra vez, que su forma de valorar nuestros datos no coincide con la nuestra. Rara vez respetan la privacidad de las personas. En el instituto, uno de nuestros enfoques ha sido enseñar a ejecutar un modelo en tu propio equipo, para que al procesar información sensible esta no pueda aparecer en ningún otro lugar ni ser enviada a las grandes empresas tecnológicas. Cómo interactuar con la IA y los grandes modelos de lenguaje, pero de tal manera que puedas desconectarte de internet y, aun así, mantener la misma funcionalidad que tendrías al enviar la información a plataformas como OpenAI.

Pensando en la gran discusión global sobre IA, ¿hay algo que crea que estamos pasando por alto?

Me preocupa que muy pocas personas se cuestionen la validez de la información que reciben.

Las plataformas de IA han logrado avances importantes a la hora de reducir problemas como las “alucinaciones”; sin embargo, siguen ocurriendo. Además, la calidad de la información que obtenemos de estos sistemas depende directamente de la calidad de los datos con los que fueron entrenados. Por ejemplo, si utilizo localmente un modelo desarrollado por una empresa china y le pregunto por la Plaza de Tiananmen, el sistema no me va a hablar de los acontecimientos de 1989. Este ejemplo nos permite comprender que la fiabilidad de estos sistemas está limitada tanto por los datos utilizados para su entrenamiento como por los mecanismos de control que se les aplican. Por otra parte, las grandes empresas tecnológicas no siempre priorizan el interés público al crear nuevas herramientas. En nuestra opinión, existe un problema fundamental: como dije antes, nadie entiende realmente por qué generan las respuestas que ofrecen. Esto dificulta enormemente exigirles responsabilidades. Asimismo, los datos empleados para su entrenamiento permanecen ocultos para nosotros, los usuarios finales. A medida que estos modelos sigan entrenándose con volúmenes cada vez mayores de datos, incluso si estos están más seleccionados, curados, deberíamos mantenernos alerta ante el tipo de información que nos devolverán.