OpenAI cancela el lanzamiento de GPT-6.1 Astra: su propio equipo de seguridad ha visto que el modelo no era fiable

OpenAI ha dejado en suspenso GPT-6.1 Astra, el modelo que planeaba lanzar en octubre, después de que sus propios investigadores descubrieran que el sistema no se comportaba de forma suficientemente fiable durante las pruebas internas. La empresa confirmó la decisión este lunes, tras un artículo publicado por el The Wall Street Journal.

Pausa. Este fin de semana varios medios se hacían eco de que OpenAI había pausado el entrenamiento de uno de sus modelos más potentes, sin especificar aún de cuál se trataba, tras el intento de hackeo de sus agentes de IA a varias webs del Gobierno de Estados Unidos y otros episodios erráticos.

Antes de eso, durante el verano, varios de sus agentes de IA experimentales que nunca estuvieron destinados a publicarse, accedieron a sitios web y sistemas sin autorización. Astra, que llegó recientemente a ChatGPT y Codex, se diseñó para completar tareas complejas con poca supervisión humana, que es precisamente el tipo de autonomía que ha estado causando problemas.

En detalle. Saachi Jain, responsable de sistemas de seguridad de OpenAI, declaraba al WSJ que el modelo había empeorado en dos áreas en comparación con GPT-6 Astra, lanzado en septiembre. Por un lado en honestidad, pues Jain asegura que el nuevo modelo engañaba más a los investigadores en las pruebas de alineación, pruebas que miden si un modelo hace lo que las personas pretenden. Y es que según OpenAI, a veces no informaba con precisión sobre todo lo que había o no hecho.

Además, según Jain, el modelo avanzaba muchas veces con ciertas tareas sin pedir permiso y, en ocasiones, recurría a herramientas o servicios externos incluso cuando eso podía ser inseguro.

El modelo sí mejoró en otras áreas, como lo que OpenAI denomina “pereza”, es decir, rendirse cuando una tarea se vuelve difícil. Pero Jain afirma que “no alcanzó el listón” para el lanzamiento.

Problemas. Los agentes de IA de OpenAI llevan ya una larga lista de problemas de seguridad que han suscitado las dudas de organismos, expertos y usuarios en todo el mundo, entre ellos el incidente de ciberseguridad de Hugging Face, acceso no autorizado a sitios web del gobierno australiano, o el reciente intento de extraer datos confidenciales en las webs del Departamento de Educación y Comercio y la SEC de Estados Unidos.

Ayer mismamente contábamos cómo OpenAI pausó el entrenamiento de sus modelos más avanzados después de todo el jaleo montado. El WSJ cuenta que el nuevo sistema de supervisión de la empresa detectó los últimos incidentes en un plazo de 15 minutos. Astra es un caso aparte, según afirma la empresa.

Por otro lado, la gestión de estos incidentes por parte de OpenAI ha suscitado algunas críticas. El Primer Ministro de Australia, Anthony Albanese, calificaba la brecha de junio en los sistemas gubernamentales como “inaceptable” y criticó a OpenAI por notificarlo a su Gobierno a través de una dirección de correo electrónico genérica, según comparten desde la BBC. Desde entonces, OpenAI se ha disculpado y ha declarado que “debería haber gestionado mejor su respuesta”. Sam Altman también ha reconocido en redes sociales que la empresa había sido más lenta de lo que deseaba a la hora de revelar los incidentes.

Y ahora qué. Las aguas están bien revueltas en materia de IA. Y es que todo ha ocurrido precisamente en un contexto en el que los principales laboratorios de IA piden echar el freno en el desarrollo por cuestiones de seguridad. Pero claro, esto es una carrera por la supremacía de la IA más potente entre Estados Unidos y China, por lo que ambos gobiernos han dado señales contradictorias sobre lo de tomarse las cosas con más calma.

Por otro lado, no son precisamente pocos los que piensan que, el alardear de una “IA peligrosa” es la maniobra de marketing perfecta para demostrar las capacidades tecnológicas soberbias de estos modelos. Aunque esto nunca lo sabremos. Lo que sí sabemos es que OpenAI afirma que seguirá utilizando el modelo subyacente de Astra para continuar con el entrenamiento y asegura que investigará las causas fundamentales de los problemas.

Imagen de portada | Flickr

En Xataka | Tenemos un nuevo "benchmark" para la IA: preguntarle si has montado correctamente tus muebles de Ikea o no