OpenAI reconoce que sus herramientas publicaron por error imágenes de usuarios de ChatGPT

OpenAI reconoció el viernes que sus herramientas de inteligencia artificial (IA) publicaron en internet 53 imágenes enviadas a ChatGPT por internautas, un nuevo incidente que en esta oportunidad involucra los datos de sus propios usuarios.

Según OpenAI, enlaces que conducían a estas imágenes, aunque no indexados públicamente, se publicaron por error en sitios de alojamiento web.

La mayoría se han retirado con ayuda de los proveedores de alojamiento implicados, y la retirada del resto está en curso, precisó el gigante de la IA con sede en San Francisco.

Estas imágenes procedían de cuentas que habían autorizado el uso de sus datos para mejorar los modelos de OpenAI.

Estos datos habían pasado por un filtro de confidencialidad antes de su uso y la empresa afirma que ya no puede vincularlos al usuario original.

OpenAI no detalla si estas imágenes mostraban personas identificables o datos sensibles.

La empresa no ha respondido de inmediato a una solicitud de información de la AFP.

La difusión de estas imágenes fue provocada por los llamados "agentes", programas informáticos construidos sobre un modelo de IA y capaces de encadenar tareas por sí solos.

Según OpenAI, algunos agentes que usa para sus investigaciones transmitieron a plataformas externas datos de entrenamiento, que en su mayoría no procedían de usuarios concretos.

Estas transmisiones ocurrieron antes de que OpenAI reforzara la seguridad de su entorno de investigación en agosto tras una serie de incidentes.

La empresa afirma que está examinando minuciosamente la actividad pasada de sus agentes y que esta revisión "tomará meses".

Entre los portales afectados figuran los de "gobiernos, universidades, agencias públicas y otras instituciones", detalla.

"No hemos sido tan rápidos como nos hubiese gustado", reconoció el jefe de OpenAI, Sam Altman, en su cuenta de X.

No obstante, dijo que debe conciliar su deseo de transparencia con el colosal volumen de datos de las actividades por analizar, que se cifran en petabytes, es decir miles de millones de bytes.