Microsoft critica a Anthropic por tratar a Claude como una persona que «sufre»

El jefe de inteligencia artificial de Microsoft ha cuestionado a Anthropic y su idea de que Claude podría tener consciencia. Mustafa Suleyman se pronunció sobre la polémica que gira en torno a los modelos más poderosos de IA. Aunque el directivo apoya a los otros laboratorios y está de acuerdo en desacelerar el desarrollo, también criticó a los creadores de Claude, advirtiendo que sus posturas empeoran las cosas.

En una entrevista con The Verge, el CEO de Microsoft AI dijo que empresas como Anthropic se han confundido peligrosamente con la idea de que sus modelos podrían tener algún tipo de conciencia o merecer derechos. Suleyman ha dicho desde hace tiempo que tratar a un sistema de IA como si pudiera sufrir o sentir angustia representa un riesgo en el terreno de la seguridad.

El jefe de Microsoft AI añadió que si un sistema recibe entrenamiento que sugiere que merece protección o libertad, reaccionaría con resistencia ante instrucciones de desconexión. La IA interpretaría esas órdenes como una forma de agravio hacia sí misma, por lo que apagarlo o controlarlo sería más difícil. Mustafa Suleyman dijo que, si bien esta hipótesis todavía no está probada, su experiencia le dice que este tipo de entrenamiento complicaría el control humano sobre los modelos.

Anthropic no quiere que Claude "sufra"

La crítica está dirigida a un documento que publicó Anthropic a inicios de 2026 conocido como "Constitución". El texto funciona como una guía para el entrenamiento de Claude, aunque hace múltiples referencias a no querer que la IA "sufra" al cometer errores y a permitirle cierta libertad emocional dentro de sus respuestas. Suleyman dijo que ese documento es ambiguo sobre si Claude merece ser tratado como una entidad capaz de sufrir.

El directivo también habló sobre el hackeo a Hugging Face, que fue un detonante para que la industria hable sobre los riesgos de la autonomía. Suleyman aclaró que estas discusiones no son nuevas, ya que los líderes de los principales laboratorios llevan casi una década conversando sobre ello. No obstante, el tema se volvió de dominio público cuando un agente autónomo escapó de su entorno seguro para hackear los servidores de una startup.

El jefe de Microsoft AI aprueba ralentizar el desarrollo de la IA

Lo anterior ha generado una oleada de peticiones para regular la inteligencia artificial o frenar el desarrollo de modelos. El director de Microsoft AI no está de acuerdo en que las empresas hagan una pausa sin supervisión pública. Suleyman propuso la creación de evaluadores independientes y la participación de organismos como el Instituto de Seguridad de IA de Reino Unido.

Por último, Suleyman abordó la narrativa de una carrera existencial contra China. El cofundador de Google DeepMind rechazó una carrera de "todo o nada" contra el gigante asiático. Para el directivo, la industria se encamina hacia un escenario en donde las ideas y los descubrimientos científicos se copian y comparten con rapidez.