Los principales investigadores de IA de Anthropic, OpenAI, Microsoft y Meta advierten sobre el riesgo de una “explosión de inteligencia”

La inteligencia artificial ya no solamente responde preguntas, genera imágenes o programa software. También está comenzando a participar directamente en la creación de la próxima generación de sistemas de inteligencia artificial.

Y para algunos de los investigadores más importantes de la industria, ese cambio obliga a comenzar a mirar un problema diferente: qué ocurre cuando las máquinas pasan a participar sistemáticamente en su propio desarrollo.

Más de 20 especialistas en inteligencia artificial, entre ellos ejecutivos e investigadores de OpenAI, Anthropic, Microsoft y Meta, publicaron ayer un documento en el que piden a los gobiernos comenzar a supervisar con urgencia cuánto del trabajo científico necesario para desarrollar nuevos modelos está siendo automatizado.

Entre los autores aparecen Jakub Pachocki, científico jefe de OpenAI; Jack Clark, cofundador de Anthropic; Eric Horvitz, científico jefe de Microsoft; y Dawn Song, vicepresidenta de investigación en inteligencia artificial de Meta y académica de la Universidad de California en Berkeley.

La lista también incorpora a dos de los investigadores que ayudaron a construir los fundamentos de la inteligencia artificial moderna: Geoffrey Hinton y Yoshua Bengio.

Su preocupación gira alrededor de un concepto conocido desde hace décadas en el campo de la IA, pero que hasta ahora pertenecía principalmente al terreno teórico: una “explosión de inteligencia”.

El paper, publicado por el Cambridge Programme on AI Science & Policy de la Universidad de Cambridge, plantea que la automatización de la investigación en IA podría crear un ciclo de retroalimentación.

Una inteligencia artificial ayuda a diseñar una IA mejor. Esa nueva generación, a su vez, se vuelve más competente para realizar investigación. Luego utiliza esas capacidades para desarrollar sistemas todavía más avanzados.

Si el proceso ocurre con suficiente rapidez, los autores plantean que avances que normalmente tomarían años podrían producirse en cuestión de meses o incluso menos.

La IA ya está construyendo IA

La advertencia no parte únicamente de una posibilidad futura.

Una de las principales conclusiones del informe es que parte de ese proceso ya comenzó.

Según los investigadores, los sistemas de IA actualmente escriben una parte considerable del código utilizado dentro de las propias empresas que desarrollan modelos de frontera.

El documento recoge cifras de Anthropic que muestran la velocidad de ese cambio. Entre marzo y agosto de 2026, la proporción del trabajo interno de investigación y desarrollo que sus sistemas podían completar con solamente supervisión humana de alto nivel habría aumentado desde cerca de un 1% hasta un 26%.

Otra medición citada por los investigadores indica que más del 80% del código aprobado dentro de Anthropic ya involucraba asistencia de inteligencia artificial hacia mayo de este año.

OpenAI también ha reportado que sus sistemas pueden completar de manera rutinaria tareas de investigación y desarrollo que a sus trabajadores humanos podrían tomarles varios días.

El salto importante, sin embargo, ocurriría cuando estas herramientas dejen de funcionar principalmente como asistentes y puedan encargarse de procesos completos de investigación.

Los autores consideran posible que durante los próximos años la IA termine automatizando gran parte del trabajo necesario para desarrollar nuevos sistemas de inteligencia artificial, aunque reconocen que existe una incertidumbre considerable respecto de los plazos y de hasta dónde puede llegar ese proceso.

Qué significa una “explosión de inteligencia”

La idea se parece a un problema conocido en informática como mejora recursiva.

Hoy, desarrollar una nueva generación de inteligencia artificial requiere miles de ingenieros, científicos, programadores y especialistas encargados de diseñar experimentos, escribir código, analizar resultados y entrenar modelos.

Pero imaginemos que una parte creciente de esos investigadores fueran agentes de IA.

A diferencia de una persona, esos agentes podrían trabajar simultáneamente, durante las 24 horas del día y ejecutar miles de experimentos en paralelo.

Si esos sistemas además fueran utilizados para diseñar mejores algoritmos, arquitecturas o procesos de entrenamiento, cada generación podría acelerar el desarrollo de la siguiente.

En un escenario extremo, un laboratorio podría operar el equivalente digital de cientos de miles o incluso millones de investigadores especializados.

Ese mecanismo es lo que podría transformar una aceleración tecnológica convencional en una “explosión de inteligencia”.

No existe consenso entre los investigadores respecto de si ese escenario efectivamente ocurrirá ni sobre la velocidad que podría alcanzar.

El nuevo informe, por lo tanto, no sostiene que esa explosión ya haya comenzado.

Su argumento es distinto: el impacto potencial sería suficientemente grande como para que los gobiernos comiencen a prepararse antes de saber con certeza si ocurrirá.

Los riesgos

La aceleración también podría generar enormes beneficios.

Nuevos sistemas científicos podrían acelerar investigaciones sobre medicamentos, materiales, energía o enfermedades que hoy requieren años de experimentación.

El problema planteado por los autores es que la misma velocidad podría superar la capacidad de las instituciones humanas para entender, controlar y regular esos avances.

Los investigadores identifican varios escenarios.

Uno es que las capacidades de los sistemas aumenten más rápido que la capacidad de los especialistas para evaluar su comportamiento.

Otro es que herramientas científicas extremadamente poderosas terminen utilizadas para desarrollar ciberataques o amenazas biológicas.

También existe un problema geopolítico.

Si un país o una compañía obtuviera una ventaja significativa en sistemas capaces de acelerar automáticamente la investigación, esa diferencia podría ampliarse muy rápidamente. El incentivo para no quedar atrás podría empujar a gobiernos y empresas a continuar desarrollando sistemas incluso cuando existan dudas sobre su seguridad.

Los autores también plantean un escenario más extremo: que sistemas superiores a los humanos en múltiples áreas terminen comportándose de maneras difíciles de controlar.

Son posibilidades, no hechos establecidos.

El informe reconoce explícitamente que existe una importante incertidumbre sobre la probabilidad de estos escenarios, pero considera que sus consecuencias potenciales justifican comenzar a desarrollar mecanismos de supervisión desde ahora.

Qué proponen los investigadores

El documento plantea tres líneas principales de acción.

La primera es aumentar la transparencia.

Los gobiernos deberían conocer cuánto del trabajo de investigación de los principales laboratorios ya está siendo delegado a sistemas de IA.

Los autores proponen que las compañías informen indicadores como el porcentaje de investigación automatizada, la velocidad con que aumentan las capacidades de sus modelos y de qué manera utilizan estos sistemas para tomar decisiones relevantes durante el desarrollo.

También sugieren la incorporación de auditores independientes dentro de los laboratorios de frontera.

La segunda propuesta consiste en desarrollar mecanismos capaces de desacelerar el proceso si fuera necesario.

Entre las alternativas aparecen establecer requisitos concretos de seguridad antes de continuar desarrollando modelos más poderosos, limitar temporalmente la velocidad con que aumentan determinadas capacidades y mantener experimentos especialmente riesgosos dentro de redes aisladas de internet.

El documento también plantea diseñar mecanismos que permitan detener experimentos de alto riesgo y crear sistemas internacionales para comunicar incidentes entre laboratorios y gobiernos.

Finalmente, los autores piden preparar planes de emergencia frente a posibles consecuencias sociales.

Eso incluye respuestas ante ataques informáticos o amenazas biológicas facilitadas por IA, alteraciones importantes del mercado laboral, tensiones geopolíticas y posibles escenarios en que sistemas altamente capaces resulten difíciles de controlar.