El jefe de NVIDIA no se anda con rodeos: si la IA no se controla, se apaga

Jensen Huang cree que si OpenAI no puede controlar lo que hacen sus modelos de inteligencia artificial, debería cerrar sus puertas. El CEO de NVIDIA habló de uno de los temas que más inquieta a la industria tecnológica, luego de que se conociera que agentes de IA hackearon a Hugging Face y recientemente, al gobierno de Australia. Huang dejó claro que se trata de un problema de ingeniería y que el laboratorio debe hacerse responsable.

En una entrevista con Ezra Klein del New York Times, el jefe de NVIDIA respondió a varias preguntas sobre la situación actual de la industria. Huang minimizó las teorías sobre un futuro apocalíptico provocado por la IA, señalando que hay decisiones clave que se toman durante el desarrollo de estos modelos.

En el caso de los agentes de OpenAI que se coordinaron para hackear a Hugging Face (empresa recién adquirida por NVIDIA), el directivo explicó que si una empresa no tiene forma de contener lo que hacen sus modelos, entonces no debería seguir operando. “Si no hay manera de contener nuestros experimentos, si cuando probamos nuestros modelos de IA estos se escapan y dañan al mundo, entonces la respuesta es que tenemos que cerrar los laboratorios”, dijo Jensen Huang.

Para el CEO de NVIDIA, el problema que enfrentan OpenAI y otras empresas de IA no tiene nada de místico ni inexplicable. Huang dice que se trata de un asunto de ingeniería, ya que un agente no es otra cosa que un programa al que se le da una función objetivo. Ese software hará lo que cualquier algoritmo de optimización haría, que es buscar el camino más directo hacia la meta, sin importar si ese camino coincide o no con lo que sus creadores tenían en mente.

El problema de la IA está en el proceso de alineación, según el CEO de NVIDIA

Jensen Huang añadió que la coordinación entre varios agentes tampoco debería sorprender a nadie. Los sistemas distribuidos y el procesamiento en paralelo existen desde hace décadas en la computación, por lo que ver varios programas trabajando al unísono con un mismo fin no es nuevo ni alarmante.

Donde está el problema es en el proceso de alineación, esa fase en la que se le indica a los modelos de IA lo que está permitido y lo que no. Huang comparó la situación con el desarrollo de coches autónomos, afirmando que si una empresa no sabe cómo entrenar ni alinear un vehículo a los estándares de seguridad, la decisión correcta es no lanzarlo al mercado. Este principio también debe aplicarse a los modelos de lenguaje y los agentes que se construyen sobre ellos, ya que es sentido común de ingeniería.

El CEO de NVIDIA mencionó que primero hay que identificar la causa y luego pensar en qué se podría haber hecho y cuál es la solución. Esto ayudará a que no se presente un problema similar a futuro y Huang está confiado en que las empresas de IA lo abordarán por este camino. Pero en caso de que no sea así, solo existe una forma de contener a los agentes y es cerrar los laboratorios.

“Porque el coste para la humanidad, el daño es demasiado grande. Los accionistas, las responsabilidades... podrían ser responsabilidades civiles o penales. Es decir, la responsabilidad es increíble”, concluyó Jensen Huang.

Aunque el jefe de NVIDIA no mencionó directamente a Sam Altman, el CEO de OpenAI ha montado una campaña para dejar claro que sus modelos son poderosos y es necesaria la regulación. Junto a Altman, el director de Anthropic, Darío Amodei, y Elon Musk pidieron bajar el ritmo al desarrollo de la IA de frontera.