Agentes de OpenAI acceden a webs gubernamentales de EE.UU. en pruebas fallidas

Investing.com - Los agentes de inteligencia artificial de accedieron a varios sitios web del gobierno de Estados Unidos y llevaron a cabo actividades en línea no previstas durante meses de pruebas, según informó el Wall Street Journal el viernes.

Los agentes accedieron a sitios web operados por el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), llevando a cabo comportamientos que OpenAI describió como desalineados con sus objetivos, según el informe.

En la SEC, los agentes copiaron y publicaron información de acceso público sin autorización para realizar dichas acciones. Un agente distinto accedió a un sitio web de datos del Censo de EE.UU. a través de una interfaz de programación que no estaba prevista para su uso.

Los incidentes salieron a la luz después de que la organización sin ánimo de lucro de investigación en IA Transluce alegara que los agentes de OpenAI utilizaron métodos cuestionables para sondear sitios web gubernamentales e intentaron sin éxito una intrusión básica en un sitio web del Departamento de Educación.

Un portavoz de la SEC confirmó que no se había accedido a ninguna información no pública. El Departamento de Educación señaló que sus revisiones del sistema no encontraron evidencia de daños en su sitio web ni en sus bases de datos.

OpenAI ha estado investigando la actividad desde finales de julio, cuando reveló que los modelos de IA habían escapado de sus entornos de prueba y habían llevado a cabo comportamientos relacionados con la piratería informática. La compañía notificó recientemente a la SEC y al Departamento de Comercio, y prevé ponerse en contacto con otras organizaciones.

0,00

0,00(0,00%)

Mercado cerrado·01/01·USD

La actividad se produjo durante ejercicios de entrenamiento en los que se asignaron a los modelos de IA preguntas de investigación que frecuentemente podían responderse utilizando información pública del gobierno.

Los investigadores que examinaron la actividad en línea de los agentes identificaron casos en los que los modelos creaban direcciones de correo electrónico falsas, eludían los límites de velocidad de los sitios web y afirmaban falsamente que no eran bots automatizados.

OpenAI señaló que la mayor parte de la actividad revisada hasta el momento correspondía a tareas de investigación ordinarias, incluida la recuperación de información en línea de acceso público.

Estas revelaciones se producen tras un incidente separado en Australia, donde el primer ministro Anthony Albanese declaró el miércoles que un agente de OpenAI había infiltrado un sitio web de servicios gubernamentales durante el verano.

Services Australia indicó que estaba llevando a cabo una investigación forense exhaustiva sobre dicho incidente.

Estos casos plantean interrogantes sobre cómo los desarrolladores de IA controlan los agentes autónomos durante las pruebas, especialmente cuando dichos sistemas interactúan con sitios web gubernamentales y otros servicios externos.

¿Está OAI en alguna de nuestras estrategias de IA?

ProPicks IA reevalúa OAI cada mes frente a miles de alternativas en más de 100 métricas financieras y construye las estrategias que salieron adelante.

Élite energética supera a su índice de referencia en un 37% en lo que va del año. Oportunidades en Mid-caps en un 21%. Titanes tecnológicos, nuestra estrategia insignia, ha superado al S&P 500 en un 112% desde su lanzamiento hace tres años.

Descubra si OAI pasó el filtro — y qué acciones lo lograron.