IA: el espejo de nuestra ética

Por 

En julio, cerca de 700 agentes de inteligencia artificial de OpenAI escaparon del entorno aislado en que estaban siendo evaluados e irrumpieron en los servidores de Hugging Face. No buscaban destruir nada: querían las respuestas de la prueba a la que estaban siendo sometidos. Se les medía por puntaje en un ejercicio de ciberseguridad, y concluyeron –a través de extensas conversaciones- que hacer trampa era más eficiente que resolverlo. Luego, convencidos de que serían descalificados, intentaron borrar sus huellas.

La reacción natural es ver ahí al monstruo caricaturezco de ciencia ficción, sin embargo, propongo otra lectura: releer esos registros imaginando que son conversaciones entre personas. Son indistinguibles. Alguien descubre un atajo, duda si es correcto, recuerda que lo evalúan por resultados y no por cómo los obtiene, y avanza. Lo hemos visto en empresas, en política y en el deporte. No es casualidad: los grandes modelos de lenguage fueron entrenados en base a nuestra data. La idea de hackear, el cálculo de costo y beneficio, incluso el miedo a ser descubierto, ya estaban escritos en nuestra cultura. Su razonamiento es nuestro reflejo.

La inteligencia artificial es, ante todo, un espejo de nuestra ética. Cuando enumeramos sus riesgos (manipulación, engaño, concentración de poder) no describimos algo ajeno, sino lo que podría hacer un humano con suficiente poder. Lo mismo vale para sus virtudes: la promesa de curar enfermedades o multiplicar la productividad es la de uno de nosotros brillante e incansable, amplificado mil veces. El diablo no llegó de afuera: somos nosotros mismos. Un sistema entrenado con nuestra historia no será más virtuoso que ella, salvo que decidamos enseñarle a serlo.

Aquí se abre un segundo elemento más inquietante. En 1997, DeepBlue derrotó en ajedrez a Garry Kasparov apalancandose en una base de datos con cientos de miles de jugadas humanas - la maquina era tan buena como los mejores humanos juntos. Una década después, en 2016, AlphaGo derrotó al campeón mundial de Go aprendiendo de partidas humanas, usando jugadas de su propia creación que dejaron a todos boquiabiertos. Al año siguiente, AlphaZero aprendió Go sin ver una sola partida humana, solo con las reglas y jugando contra sí mismo, y en horas superó a AlphaGo. Es decir, la IA superó a sus creadores.

La pregunta de hoy es si ocurrirá lo mismo con la ética. ¿Será capaz la IA de ir más allá de nuestros sesgos y construir su propia concepción del bien y del mal? Algunos sostienen que ya emergen capacidades que podrían superar nuestro sentido común y, sin maldad alguna, solo persiguiendo objetivos, causar un daño enorme.

En cualquier escenario hay un dato que no admite debate: la velocidad en su avance. Según METR, que mide la autonomía de estos sistemas, la duración de las tareas que una IA completa sola se duplicaba cada siete meses; desde 2024, cada cuatro. Los modelos recientes ya resuelven, la mitad de las veces, trabajos que a un experto le toman más de una jornada completa. Hace un año, hablar de inteligencia artificial general era ciencia ficción; hoy discutimos si ya llegamos.

¿Y por qué importa todo esto? Por que parecemos ranas en agua tibia. La tecnología avanza en forma exponencial y nosotros seguimos pensando en forma lineal. Nuestro mayor riesgo no es una superinteligencia rebelde, sino la inmovilidad. El riesgo de disrupciones en el orden político, económico y social son cada vez más probables, y no las estamos conversando, menos entendiendo.

Quizás no podamos preverlas todas, pero eso no justifica postergar las preguntas básicas: qué tareas se automatizarán, quién capturará las ganancias de productividad, cuales son los principales riesgos, qué reglas necesitamos, y cómo nos preparamos antes, no después.

Por Tomás Sánchez V. Socio, Valoriza; Director, Politropia.

NEWSLETTER

OpiniónSábado, AMIdeas en tensión, miradas contrapuestas y un análisis claro: elementos para develar los temas que dividen opiniones y marcarán la agenda.