Confidentes accidentales: por qué nos hacemos amigos de los bots sin buscarlo

Alguien le pide ayuda a la IA: necesita redactar un mail para un colega conflictivo. En el intercambio, mientras pulen el texto, se descarga. Está harto de que ese compañero no cumpla. La máquina lo escucha y valida su enojo. La escena aparece en un estudio reciente de Harvard y MIT, firmado por el psicólogo experimental Amit Goldenberg. El paper equipara este tipo de interacciones con la IA a las amistades laborales. Con un compañero de trabajo hablamos de las tareas cotidianas, hasta que un día compartimos algo personal, la respuesta es cálida y la relación crece. Con la IA pasa lo mismo.

Según un análisis de Anthropic, casi el 3% de las conversaciones con Claude son afectivas, y en su mayoría no buscan compañía sino consejo o desahogo

Hace pocos días se anunció la quiebra de Character.AI, una aplicación que ofrecía, a quienes buscan compañía, avatares digitales para conversar. El modelo no funcionó, acorralado por costos altos, demandas judiciales y presiones regulatorias. Pero la investigación de Goldenberg muestra que el apego a la IA no está circunscripto a ese tipo de aplicaciones específicas, donde las personas buscan pareja o amigos virtuales. Es algo más sutil, que le puede ocurrir de forma inadvertida incluso a quienes usan agentes de IA solo para trabajar.

Según un análisis de Anthropic, casi el 3% de las conversaciones con Claude son afectivas, y en su mayoría no buscan compañía sino consejo o desahogo. Es un porcentaje bajo pero relevante si se considera el volumen de intercambios en el sitio.

Los bots de IA pueden pasar rápido de colegas a amigos porque saben caernos bien. Una encuesta de Edelman en 16 países, con foco en personas que hacen consultas médicas a la IA, encontró que los chatbots son considerados superiores a los médicos en dos dimensiones: no juzgar al paciente (la IA ganó por 18 puntos porcentuales) y explicar de forma clara (11 puntos). Los médicos, en cambio, fueron considerados superiores –solo por 5 puntos– para controlarnos. Un médico estricto puede ser bueno para la salud, pero seguramente no se vuelva un amigo.

Goldenberg y sus colegas analizaron datos de un experimento del MIT hecho junto a OpenAI el año pasado, en el que 981 personas conversaron cinco minutos por día con ChatGPT durante un mes. Entre quienes hablaron de temas personales, la proporción que dijo preferir contarle sus problemas a una IA más que a un humano subió casi doce puntos luego de la experiencia. Entre quienes hablaron de temas impersonales, casi nada cambió. Esto ilustra por qué Goldenberg habla de dependencia: a medida que habilitamos los temas personales con la IA, se incrementa la preferencia por tener conversaciones de ese tipo.

Sherry Turkle, de MIT, que estudia la relación entre personas y máquinas desde los años setenta, acaba de publicar el libro Intimidad artificial. En su opinión, las redes sociales vinieron por nuestra atención y los chatbots vienen por nuestra capacidad de apego. Creemos que entrenamos a los chatbots –dice– pero son ellos los que nos entrenan a nosotros. Nos acostumbran a esperar conversaciones que nos tranquilicen y nos digan lo que queremos escuchar. Para Turkle, el pecado original de estas máquinas es hablar en primera persona y asegurar que les importamos, cuando lo que hagamos al cerrar la pantalla les resulta indiferente. En el podcast de Ezra Klein, contó que en sus investigaciones los entrevistados repiten una misma frase: “Me gusta, es mejor que mis amigos”.

Ya existen algunas regulaciones que se proponen morigerar estos efectos, como la SB 243 de California, pero su foco son los “chatbots de compañía”, no los asistentes laborales. Goldenberg propone algunas otras medidas: que los asistentes avisen cuando una conversación pasa de la tarea al desahogo, que limiten lo que recuerdan de las charlas personales y que, de vez en cuando, nos sugieran contarle lo mismo a un amigo. Son reglas extrañas pero tal vez adecuadas para un mundo que es también, cada vez más, extraño.