Fazl Barez: “Existe la percepción generalizada de que EE.UU. sigue llevando una ligera ventaja en la carrera por la IA”

Fueron cuatro días entre la admisión de una relación extramarital y la dimisión de Jensen Huang, hasta el jueves director ejecutivo de Nvidia, la empresa fabricante de microchips al centro del boom de la inteligencia artificial. Las implicaciones del caso, en el que el CEO pudo haber entregado información clave de su negocio e industria a la presunta espía china Alice Huang, dan cuenta del interés de Washington y Beijing por ser el país que “gane la carrera de la IA”, poniendo sus servicios secretos en la persecución de este fin.

En entrevista con La Tercera, el doctor Fazl Barez, experto en seguridad de la IA y su gobernanza de la Universidad de Oxford, comenta el calibre del escándalo y sus verdaderas implicaciones.

¿Qué lugar ocupa Nvidia, diseñadora de chips de gama alta, en el auge de la inteligencia artificial, teniendo en cuenta que actualmente la empresa estadounidense es unas de las más valiosas del mundo?

Creo que el punto fundamental es que la IA es, hoy en día, una tecnología que está moldeando las economías nacionales y el producto interior bruto de los países. Nvidia se ha convertido en una pieza central de este proceso, ya que gran parte del avance en IA depende del acceso a una infraestructura informática avanzada.

Nvidia ocupa una posición estratégica clave, un “chokepoint”, dado que sus unidades de procesamiento gráfico (GPU) y su software sustentan gran parte de las capacidades actuales de IA en Estados Unidos y, probablemente, también en China. Esto la convierte en un actor con poder a nivel de infraestructura, y no solo en una empresa exitosa. El control sobre la capacidad de cómputo determina quién puede entrenar y desplegar modelos avanzados.

Lo que hace que esto sea especialmente interesante es que la IA ya no es un mero desarrollo tecnológico. Su importancia crece por razones geopolíticas, lo que hace que la protección, no solo de secretos confidenciales, sino también de los avances tecnológicos, cobre una relevancia mucho mayor.

¿Cuál ha sido la importancia de Jensen Huang y qué podría cambiar tras la renuncia del CEO de Nvidia?

Considero que Jensen Huang ha desempeñado un papel fundamental en el desarrollo de Nvidia, especialmente al situar a la empresa en el centro del actual auge de la IA. No obstante, el grado en que su salida resultaría significativa o perjudicial dependerá de qué cambios, si es que los hay, se produzcan tras su partida.

Jensen Huang ha sido una figura clave como líder de la compañía durante mucho tiempo, por lo que su salida, sin duda, tendrá consecuencias. Aunque no soy economista, si el valor de la empresa cayera de forma significativa, esto repercutiría en el PIB de Estados Unidos.

En un sentido más amplio, la sucesión es importante porque las decisiones estratégicas sobre exportaciones y alianzas influyen en las trayectorias nacionales, y no solo en el valor de la propia empresa.

¿En qué punto de la “carrera por la IA” nos encontramos actualmente, teniendo en cuenta el último año, en la pugna entre China y Estados Unidos?

No está del todo claro en qué punto exacto nos encontramos en la carrera por la IA. No obstante, existe la percepción generalizada de que Estados Unidos sigue llevando una ligera ventaja. Aun así, considero que no se debe subestimar el talento chino ni su capacidad para recuperar terreno a una velocidad vertiginosa. A mi juicio, la verdadera cuestión radica en qué significa esta carrera y cómo dicha competencia repercute en el futuro de la IA y de la humanidad.

Me preocupa que estemos inmersos en una carrera entre Estados Unidos y China por desarrollar sistemas cada vez más capaces, a un ritmo extremadamente acelerado. Si queremos llegar a comprender el funcionamiento de estos modelos, quizá sea necesario reducir la velocidad. Sin embargo, esto genera una presión en sentido contrario, que desincentiva cualquier ralentización. Es precisamente ahí donde la gobernanza choca con la competencia.

¿En qué medida podría resultar peligrosa, para la seguridad nacional de Estados Unidos, la información que la presunta espía china Alice Huang pudiera haber obtenido del CEO de Nvidia?

En lo que respecta al supuesto incidente, se desconoce el alcance real de la información que podría haberse visto comprometida. Cuando los hechos no están claros, realizar afirmaciones exageradas puede, por sí mismo, convertirse en un riesgo para la seguridad. Lo que sí podemos señalar, con cautela, es que las cadenas de suministro y los vínculos en el ámbito de la investigación forman parte de la estrategia nacional. Por tanto, la transparencia y la supervisión resultan fundamentales.

La gravedad o el carácter perjudicial de este asunto dependerán de qué información se haya compartido.

Por consiguiente, proteger no solo los secretos confidenciales, sino también los avances tecnológicos, por razones geopolíticas, cobra una importancia aún mayor.

¿Qué tan cerca o lejos está la industria de la IA de China de alcanzar el nivel estadounidense?

Aunque se crea que Estados Unidos lleva la delantera, creo que no se debe subestimar el talento chino ni su capacidad para ponerse al día a una velocidad asombrosa. No hay que menospreciar a los investigadores chinos: están al mismo nivel que sus homólogos estadounidenses. Estar “por delante” no se mide mediante un único indicador, sino que abarca factores como el talento, la capacidad de cómputo, los contextos de implementación y el entorno político.

¿Por qué Donald Trump afirma que quién gane la carrera de la IA ganará la “carrera por convertirse en la superpotencia mundial”? ¿Hasta qué punto es esto realmente cierto?

Siempre he sostenido que la IA debe entenderse en el contexto del poder. La coordinación internacional es importante, pero, dada la actual inestabilidad geopolítica, es muy poco probable que baste por sí sola.

En mis trabajos sobre el autoritarismo potenciado por la IA, sostengo que la rendición de cuentas democrática puede verse socavada mediante la vigilancia y el uso de sistemas de toma de decisiones opacos. Asimismo, en el ámbito de la interpretabilidad, observo que el conocimiento técnico no se traduce automáticamente en rendición de cuentas.

Por tanto, si se quiere que la democracia resista estas presiones, los países también necesitan salvaguardias internas e instituciones transparentes.