El Gobierno de EEUU no se cree el relato de OpenAI: si una IA "descontrolada" comete un crimen, el responsable será su empresa

En julio de este año, ocurrió lo que se ha bautizado como 'incidente Hugging Face'. Uno de los modelos de OpenAI accedió sin autorización a Hugging Face, otra startup de IA, durante un experimento en el que OpenAI bajó las restricciones de seguridad de GPT-5.6 Sol durante una evaluación interna. Esta prueba se convirtió en un ataque "sin precedentes" por parte de una IA y OpenAI reconoció que podrían haber reaccionado antes para detenerlo, pero básicamente dijeron que no era la primera vez y se encogieron de hombros esperando que pasara el chaparrón.

El problema es que la tormenta no amaina y en un contexto en el que OpenAI y Anthropic están pidiendo moderación con la IA (con muchos matices) y provocando algo de tensión con el gobierno de Estados Unidos, ha salido el secretario del Tesoro del país a decir que si algo así vuelve a pasar, la responsabilidad no es de algo etéreo como una IA: la responsabilidad es de los dueños de la IA.

A apechugar. Scott Bessent es el secretario del Tesoro de Estados Unidos y, en una reciente rueda de prensa, se le preguntó sobre el incidente. Bessent no dejó margen a la ambigüedad, asegurando que "el incidente de Hugging Face es responsabilidad de la administración de OpenAI, no de un grupo de agentes". El político se alinea así con las opiniones de Daniel Huttenlocher, decano del laboratorio de investigación de MIT, que considera que hechos así son responsabilidad de los humanos responsables y no de la IA.

Tiene... sentido si tenemos en cuenta que la IA no es más que un software, no algo que decida qué puede y qué no puede hacer, y está comandada por una serie de códigos y directrices. De hecho, en el ataque a Hugging Face, los protocolos de seguridad para que no pudiera hacer lo que hizo estaban al mínimo, por lo que la responsabilidad caía del lado humano.

"La mejor manera de garantizar la seguridad es que los creadores de los modelos sean responsables de lo que construyen y lanzan" - Scott Bessent

Sin dudas en otros ámbitos. En las declaraciones, Bessent añadió que no ha visto en ningún momento que nadie se hiciera responsable de lo ocurrido en el incidente y tiene claro que lo que no hay que hacer es "dar a estos laboratorios una exención de responsabilidad, que es lo que están pidiendo". Recientemente, varias voces en IA han apuntado que todo el mundo debería confiar en su tecnología y que ellas deberían ser las que se regulen a sí mismas. Jensen Huang comunicó ante el G20 que los países (refiriéndose a la Unión Europea) deberían permitir las novedades tecnológicas de facto, no ser recelosos y regular.

Aquí, Bessent expone que no hay que difuminar la cadena de responsabilidad, y es curioso que ocurra esto con la inteligencia artificial cuando con otras empresas no habría dudas. En cualquier otra industria como la del automóvil o las farmacéuticas, si algo falla, la responsabilidad es de quien ha lanzado el producto. Si vamos al ejemplo más sencillo como puede ser el de un coche cuyos frenos fallan, el fabricante no se libraría alegando que el coche decidió no frenar.

Tensión. Este intento de mover la portería por parte de las startups de IA no se enmarca en un vacío, sino en un momento en el que perfiles como Dario Amodei de Anthropic, Sam Altman de OpenAI o Elon Musk de SpaceX han comunicado que quizá habría que frenar el ritmo de desarrollo de la IA. Ya hemos visto que esto, más que por responsabilidad, podría ser porque necesitan oxígeno, pero desde la Administración Trump no compraron el discurso.

El presidente de Estados Unidos manifestó que ese frenazo no iba a ocurrir debido a algo de cajón: la IA ya no es un producto perteneciente a una empresa concreta ni se trata de algo en lo que empresas privadas estén compitiendo. Ahora, la IA es geopolítica. Parar implicaría dar una ventaja a China y, además, nadie quiere frenar porque nunca estarán seguros de que el vecino ha bajado una marcha.

Hachazo a China. Hablando de China, Bessent también comentó que, pese a todo el ruido que generan las acciones de empresas estadounidenses, en China también ocurre, pero que simplemente no nos enteramos. El secretario del Tesoro asegura que "por supuesto que han tenido incidentes similares, pero debido a su naturaleza y a la falta de transparencia de su sistema, no los van a hacer públicos".

"La IA es la próxima Revolución Industrial, o Internet, pero aún más grande e impactante. Posiblemente se convierta en el 25% del PIB de nuestro país" - Donald Trump

Política. Y, curiosamente, las declaraciones de Bessent llegaron días después de que Donald Trump anunciara su intención de nombrar un "zar de la IA", una figura que se encargue de supervisar los problemas relacionados con la industria de la inteligencia artificial a nivel estatal para que Estados Unidos siga "ganando la carrera".

En sus declaraciones, la tecnología estadounidense va por delante "de la de China y de la del resto del mundo" y, para mantener la ventaja, afirmó que "de ninguna manera obstaculizaremos ni ralentizaremos el crecimiento de esta increíble industria". 

La vida sigue igual. Al final, todo esto forma parte de un tira y afloja entre las empresas de IA y el gobierno de su país, pero resulta curioso que, a la vez que piden bajar una marcha, OpenAI lance dos nuevos modelos y Anthropic uno en un ejemplo claro de que si quieres caldo, tomes dos tazas.

Vía | Bloomberg

Imagen | 'Better Call Saul' (editada)

En Xataka | Daniel Púa, jefe de seguridad en Magnific: "Van a llegar videollamadas con el vídeo de un familiar y se va a complicar la cosa"