La IA y el marketing del fin de la humanidad

¿Tendríamos que salir corriendo ya a buscar al John Connor de la vida real que liderará en el futuro la resistencia humana contra la IA, para protegerlo antes de que las máquinas manden un Terminator a matarlo? Ojo que aquella distopía que James Cameron filmó en 1984 situaba a ese mundo despedazado en 2029. Mañana.

De acuerdo con las noticias, parecería que sí, que no se puede perder más tiempo. Este lunes, el director ejecutivo de OpenAI, Sam Altman, volvió a advertir sobre el peligro de perder el "control del futuro" ante la inteligencia artificial y habló de los riesgos de crear "un mundo con demasiada concentración de poder".

"Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás -posteó en X-, los resultados podrían ser extremadamente distópicos".

Lo hizo horas después de anunciar que su empresa, dueña de ChatGPT, la IA generativa más usada del mundo, no saldrá por ahora a la Bolsa “teniendo en cuenta todo lo que está ocurriendo en materia de seguridad”.

Hubo otras alertas. La ONU, a través del alto comisionado Volker Türk, hizo un pronóstico directamente catastrófico y dijo que, por el veloz desarrollo de la IA, todos los derechos humanos "están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad".

Y más. El sábado, el director ejecutivo de Anthropic, Dario Amodei, habló de que deberían desacelerar el desarrollo de esta tecnología: “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos”.

Elon Musk respaldó la idea.

Esto, a su vez, venía a cuento porque la semana pasada Jacob Coxon, un investigador de Anthropic, responsable de Claude, renunció a su puesto y publicó en X: “Quienes desarrollan la IA creen firmemente que podría matarnos a todos para finales de la década”.

Enseguida salió Evan Hubinger, de la misma empresa, quien estimó que hay más del 10% de chances de que la IA elimine a la humanidad en los próximos 10 años.

De nuevo, ¿no deberíamos salir todos corriendo ya mismo? ¿Apagar las computadoras y buscar refugio en la Patagonia? ¿Están hablando del fin de la humanidad en 10 años y nadie toma ninguna medida concreta? Porque se supone que la gente que augura semejantes desastres es inteligente. Conoce el tema desde adentro. Incluso pareciera que están pateando en contra de su propio negocio.

Probablemente, ahí esté la clave de tanto pronóstico apocalíptico. En el negocio.

Fredi Vivas, profesor ingeniero especializado en IA, un auténtico experto en el área, recuerda que estas empresas jamás quisieron regulación alguna. Pero ahora podría haber surgido una “alianza corporativa”. Un bloque unido por intereses comunes.

“Ahora que lideran los mercados y el mundo de la IA -opina Vivas, quien asesora en el tema a la empresa editora de Clarín y ha colaborado en varias ocasiones con el diario-, van hacia una visión más conservadora, para evitar que se les metan en el negocio otros competidores, incluso los modelos de código abierto de China. En el fondo, no quieren detener el avance de la IA sino hacerlo más lento, a su conveniencia”.

En síntesis: "La idea del apocalipsis por IA me parece una idea marquetinera, nada más", resume.

Pero, ¿es posible que la IA se autoconvierta en un arma de destrucción masiva? ¿Que decida, por ejemplo, apagar internet, cerrar los bancos o lanzar los misiles nucleares de las potencias de un momento a otro?

Vivas dice que “cualquier cosa hecha en una computadora, la IA lo va a hacer mejor o más rápido. Si le pedís a un agente que genere algo lo va a intentar de todas las formas. Si tiene que acceder a una base de datos que está protegida por una clave y no sabe esa clave, va a intentar conseguirla. Eso es lo que se está probando en laboratorios, y ese fue el incidente OpenAI–Hugging Face de julio, cuando la IA saltó algunas barreras por decisión propia para aprobar un examen de calificación de ciberseguridad. Esa capacidad está y va a seguir aumentando. Pero está definida por lo que el humano quiere que se haga, por el objetivo que se le da. La visión Terminator, de que la IA sola va a ponerse un propósito, para mí es incorrecta. Ese propósito es humano”.

Tal vez allí esté lo peor del asunto: justamente que algunos humanos podrían aprovechar el poder de esta herramienta para cometer delitos o cualquiera de los muchos daños que son capaces de hacer los humanos. Y por eso suena sensato establecer algún tipo de regulación, como se está probando en Europa con la IA Act.

Estados Unidos, en cambio, no comulga con la idea. Donald Trump ve esta competencia con China como estratégica. Este lunes dijo: “Hay muchas fuerzas negativas planteando el tema... cuando no deberían hacerlo. Están sacando a relucir cosas que no van a suceder. Quien gane con la IA, gana".

Y bien a su estilo, sostuvo que todo el control que la IA necesita es “un presidente fuerte con un coeficiente intelectual alto”.

Es cierto que el debate parece lejano desde la Argentina. Además, acá el Gobierno tampoco quiere regulaciones, opuestas al espíritu libertario. Pero ya hubo pibes que le preguntaron a ChatGPT cómo hacer un tiroteo en sus escuelas.