Anthropic pidió frenar el desarrollo de la IA, pero su IA está avanzando el doble de rápido que el año pasado

A mediados de septiembre, Dario Amodei, CEO de Anthropic, lanzó un curioso mensaje: nos estamos pasando de frenada con la IA. Ya en su día comentamos que quizá no era una llamada a la responsabilidad, sino a relajar unas cuentas que podían empezar a no salir. El tiempo pone cada cosa en su lugar y un estudio independiente con acceso a datos internos de la compañía estima que los modelos de Anthropic están mejorando casi al doble de velocidad que antes.

¿La clave? El impulso de la IA para desarrollar IA.

En corto. Hace unos días, la organización sin ánimo de lucro METR (Model Evaluation and Threat Research) publicó el fruto de meses de trabajo: un análisis sobre cuánto acelera la IA su propio desarrollo dentro de Anthropic. La evaluación se realizó en el periodo entre el 12 de agosto y el 29 de octubre, por lo que empezó antes de que Amodei lanzara el mensaje, y concluyó que la compañía mejora las capacidades de sus modelos en tareas bien definidas en un tiempo alrededor de dos veces más rápido que el que tenía entre marzo de 2024 y octubre de 2025.

Dejan un margen de entre 1,3 y 3 veces más rápido y para sacar esas conclusiones se apoyan en el AECI, la versión de Anthropic del Epoch Capabilities Index que resume en un número el rendimiento de un modelo en un conjunto de tareas de prueba (los benchmarks, vamos). Así, estiman que, desde octubre de 2025, crece 1,9 veces más rápido. 

"A partir de octubre de 2026, no nos sorprendería si la tasa de aceleración estuviera más cerca del 3x de la tasa histórica"

La causa. METR afirma estar seguro de que la aceleración no se debe a que haya crecido más deprisa la potencia de cálculo para el entrenamiento. Este problema lo llevamos sufriendo los consumidores ya un año (y es lo que ha acarreado la actual crisis de componentes que no tiene final a la vista). La estimación subjetiva de los investigadores es que la mayor parte de la aceleración actual, quizá un 80%, se debe al uso de IA en el propio desarrollo de la IA.

Aquí confiesan que no hay consenso y ese impulso puede deberse únicamente al uso de IA para entrenar la IA (algo que la propia Anthropic no ha escondido, vaya), pero también a un aumento de las contrataciones. En el análisis exponen las declaraciones de los investigadores entrevistados, que apuntan que la IA acelera el trabajo debido a su asistencia a los humanos, aunque aún no hace aportaciones autónomas en las partes más cruciales del entrenamiento.

En encuestas informales a empleados, éstos apuntan una mejora percibida de unas 12 veces en el ritmo, aunque METR la considera poco fiable. Lo que sí parece tener más base es que no habrá cuellos de botella (aunque no están seguros porque la valoración cambió varias veces) que frenen el desarrollo a lo largo de los próximos 12 meses y, además, señalan que es muy posible que la aceleración se retroalimente. En definitiva: modelos más capaces acelerarían aún más el desarrollo.

La petición. Esto es curioso si tenemos en cuenta la mencionada petición del 12 de septiembre. Amodei publicó el ensayo en el que pedía frenar el ritmo al que mejoran las capacidades de los modelos. El texto atribuía el avance reciente, sobre todo, a la mejora recursiva, precisamente eso de lo que hemos estado hablando sobre la capacidad de la IA para construir la siguiente generación de IA.

El propio Amodei propuso tres pasos para realizar una especie de auditoría de esto:

• Otorgar a evaluadores externos un acceso similar al de un empleado dentro de las empresas de IA. En este caso, mencionó a METR.
• Estándares de seguridad comunes entre los laboratorios de países democráticos.
• Coordinación global.

Censura. Pese a la apertura, Anthropic tenía derecho a esconder información crítica que no puede ser pública (la fórmula de la Coca-Cola de su IA, en pocas palabras) y METR apunta que la compañía censuró la mayor parte de las pruebas que consideraba más informativas. Entre ellas, las estimaciones de aceleración en el entrenamiento, el desglose del progreso entre cómputo, datos y algoritmos, las previsiones de modelos futuros y el análisis de varios cuellos de botella.

METR usa esto para lanzar el mensaje de que es algo poco deseable de cara al exterior porque se convierte en una prueba de fe para los futuros usuarios, pero Anthropic lo justifica por lo mencionado: la necesidad de eliminar información confidencial que podría acelerar a los rivales en esta carrera. Otro tema, quizá más espinoso, es que METR asegura que Anthropic canceló a mitad de la investigación el proceso de verificación sobre cómo reparte su cómputo entre capacidades y seguridad, alegando que prefería centrarse en la evaluación de riesgos y que ya les devolvería la verificación más adelante.

Esto es pura especulación por mi parte, pero quizá es algo relacionado con la intención de Anthropic de salir a bolsa a lo largo de las próximas semanas y que ya bastante iban a hacer público en el momento que anunciaran su "candidatura".

"La automatización podría estar más cerca de lo que estimamos. Entendemos que la IA aún no puede automatizar completamente partes sustanciales de la línea de capacitación de Anthropic, pero hay signos de vida que hacen posible que la automatización esté cerca y conduzca a una aceleración muy rápida una vez se eliminen los cuellos de botella humanos"

Cautela. Cuando se publicó el análisis, el cofundador y responsable de la política de escalado de Anthropic comentó en Twitter que muchas de las conclusiones del estudio coinciden con las suyas, aunque sin poner una cifra a esa mejora en la aceleración del entrenamiento. También reconoció que la censura dificulta el trabajo a METR, pero defendió que detallar qué impulsa la aceleración es algo comercialmente sensible que podría dar a otros pistas para ir más rápido.

Al final, esos cambios en las condiciones y todo el contenido 'tachado' hacen que METR avise sobre que no sabe realmente cuánto de todo lo que han medido se puede trasladar a tareas difusas ni al impacto real. Ellos analizaron el impacto en tareas bien definidas y fáciles de puntuar de forma automática, pero también reconocen que podrían haber infravalorado la aceleración si la automatización cada vez es mejor o si los benchmarks se quedan cortos frente al impacto real.

Vamos, que todos están de acuerdo en que la IA mejora a una velocidad pasmosa y que un factor clave es la automejora, pero que habría que hacer más pruebas y, sobre todo, ver si cuando salgan a bolsa quitan la censura para poder medir mejor el impacto.

En Xataka | El CEO de Anthropic ha descubierto una realidad: sus trabajadores trabajan por dinero, no por una "misión"