Anthropic reveló lo cerca que está su chatbot de crear su nueva versión por sí mismo

Anthropic reveló hoy un informe que muestra que su chatbot Claude está cerca de construir a su propio sucesor sin intervención humana. El documento indica que Claude se encarga de casi un tercio de las tareas de investigación y desarrollo de la compañia. En enero de este año, ese porcentaje era cero.

“Es importante compartir estas métricas para entender cuán cerca está el mundo de alcanzar un modelo que construya a su sucesor de manera totalmente autónoma”, sostiene el documento.

“La aceleración en la construcción de modelos autónomos puede ser desafiante o difícil de controlar para los humanos”, añade. Y distingue entre los “países democráticos” en los que esa carrera por la Inteligencia General Artificial puede “ser beneficiosa” y en los que eso no ocurre.

El CEO de Anthropic Dario Amodei había solicitado a las principales empresas de IA que coordinaran una desaceleración en el desarrollo de la tecnología para enfocarse puntualmente en medidas de seguridad en torno a la IA.

Según difundió The Washington Post, la mayoría de los líderes de las empresas rivales respaldaron la idea. Pero, entre los críticos se ubicó nada menos que el presidente de Estados Unidos, Donald Trump.

Sobre la contribución de Claude en la investigación y el desarrollo de nuevos modelos de IA de Anthropic, la empresa brindó precisiones y sostuvo que es importante difundir los datos para reducir la brecha entre lo que se sabe “puertas adentro” y lo que la sociedad sabe.

Claude es un asistente virtual y una familia de modelos de inteligencia artificial conversacional desarrollado por la empresa Anthropic. Funciona de manera similar a otros modelos como Chat GPT, permitiéndote conversar, redactar textos, analizar documentos, programar y resolver problemas complejos usando lenguaje natural.

Por otro lado, la compañía norteamericana reconoció que utilizó una versión de Claude para medir su trabajo en I+D mediante un sistema desarrollado por una empresa externa, previo a que sus propios empleados puedan revisar las conclusiones.

Asimismo, Anthropic afirmó que trabaja con 30.000 “agentes” de IA para impulsar las tareas de ingeniería, desarrollo e investigación. Además, remarcó que el 6% de su capacidad informática se concentra en trabajos de seguridad.

Este miércoles, el director de inteligencia artificial de Microsoft, Mustafa Suleyman, había cuestionado el modo en que Anthropic entrena a Claude y advirtió que introducir conceptos vinculados con la conciencia, el bienestar y la autonomía podría tener un “impacto desastroso en el bienestar de la humanidad”. A la vez, reconoció la “seriedad y buena fe” de la compañía rival y de Amodei.

El eje de la crítica es la posibilidad de que Claude aprenda a describirse como una entidad que “puede ser consciente” o que merece consideración moral e independencia. Para Suleyman, ese tipo de entrenamiento no demuestra que una IA tenga sentimientos o voluntad propia: solo hace que el sistema produzca respuestas en esa dirección.

Como corolario, Anthropic también anticipó que impulsa diversos tipos de sistemas de monitoreo internos y autónomos que pueden alertar sobre actividades sospechosas para que sean revisadas por un ser humano.