El director ejecutivo de OpenAI considera frenar el desarrollo de la IA

Investing.com - El director ejecutivo de OpenAI (), Sam Altman, está valorando la posibilidad de reducir el ritmo de desarrollo de la inteligencia artificial de vanguardia, potencialmente en coordinación con otros laboratorios de IA, a medida que se intensifican las preocupaciones sobre la seguridad de unos sistemas cada vez más capaces, según informó Bloomberg News el viernes.

Altman abordó esta posibilidad en una reunión general de la empresa celebrada esta semana, según personas familiarizadas con el asunto citadas por Bloomberg. La idea podría implicar que varias compañías de IA moderen voluntariamente el desarrollo, aunque algunos laboratorios podrían no estar de acuerdo con tal medida.

El debate surge en un momento en que las preocupaciones sobre la seguridad se han intensificado en todo el sector. El científico jefe de OpenAI, Jakub Pachocki, pidió recientemente una desaceleración voluntaria hasta que se establezcan estándares de seguridad comunes, advirtiendo de que ninguna empresa puede asumir que sus capacidades de seguridad irán al mismo ritmo que unos sistemas de IA cada vez más potentes.

OpenAI ya ha adoptado algunas medidas para frenar el desarrollo. La compañía anunció en agosto que pausó el entrenamiento de aprendizaje por refuerzo en sus últimos modelos durante dos semanas tras un incidente que involucró a un agente de IA y a Hugging Face, mientras reforzaba las salvaguardas de seguridad, supervisión y alineación.

Su mayor ejecución planificada de aprendizaje por refuerzo en la frontera tecnológica permanece en suspenso a la espera de más pruebas.

Investigadores de y Google DeepMind también han expresado públicamente su preocupación por el ritmo del desarrollo de la IA. Los legisladores estadounidenses han intensificado ahora su escrutinio, con el Senado investigando la gestión por parte de OpenAI de la brecha de seguridad con Hugging Face.

El debate también llega en un momento en que OpenAI y Anthropic se preparan para posibles salidas a bolsa, lo que aumenta la atención de los inversores sobre cómo estas compañías equilibran el valor comercial del rápido avance de la IA frente a los costes y riesgos asociados al desarrollo de sistemas más potentes.

OpenAI ha instado por separado al Congreso a establecer requisitos nacionales obligatorios de seguridad en materia de IA, que incluyan evaluaciones independientes, medidas de ciberseguridad y notificación de incidentes.

Este artículo ha sido generado y traducido con el apoyo de AI y revisado por un editor. Para más información, consulte nuestros T&C.