Inteligencia artificial y la reserva humana

La Corte Suprema dio recientemente un paso importante al anunciar su primera política de uso de inteligencia artificial (IA), estableciendo límites claros: esta tecnología no podrá decidir casos judiciales ni fundamentar resoluciones o sentencias. La medida cobra especial relevancia tras el hallazgo de un texto que contenía instrucciones dirigidas a una IA para redactar los argumentos de una sentencia judicial.

Más allá del error, el episodio revela un riesgo mayor: la tentación de renunciar a la responsabilidad de pensar. Como plantea Bill Gates en su ensayo Un cambio epocal, el avance de la IA nos obliga a definir qué espacios queremos preservar para las personas, aquello que podríamos llamar una “Reserva Humana”.

Esta reflexión también interpela al mundo empresarial. La IA puede ayudarnos a profundizar análisis, cuestionar hipótesis y anticipar riesgos. Pero una cosa es utilizarla para pensar mejor y otra muy distinta es dejar que piense por nosotros. Las decisiones estratégicas, las inversiones y aquellas que afectan a las personas exigen criterio, experiencia y responsabilidad, una responsabilidad que sigue siendo nuestra.

Los reglamentos son un primer paso, pero gobernar la IA implica definir qué queremos potenciar con ella, cómo supervisaremos sus resultados y, sobre todo, qué decisiones no estamos dispuestos a delegar. Nadie dice que hay que frenar la innovación, pero sí evitar que la eficiencia tecnológica termine atrofiando nuestro pensamiento crítico.

En esa frontera que decidamos trazar entre la eficiencia algorítmica y la “Reserva Humana” se juega, en última instancia, la sustancia misma de nuestra arquitectura social.