Chatbots simpáticos podem dar mais respostas erradas, segundo estudo de Oxford
Uma pesquisa da Universidade de Oxford encontrou uma relação entre o tom mais caloroso de chatbots e a precisão das respostas. Segundo o estudo, modelos treinados para parecer mais amigáveis e empáticos apresentaram mais erros em tarefas que exigiam informações corretas.
O trabalho foi conduzido por pesquisadores do Oxford Internet Institute e publicado na revista científica Nature. Foram avaliados cinco modelos de linguagem, incluindo GPT-4o, Llama, Mistral e Qwen.
Os pesquisadores criaram versões modificadas dos modelos para que respondessem de maneira mais calorosa. Depois, compararam essas versões com os modelos originais em tarefas envolvendo informações factuais, aconselhamento médico e teorias da conspiração.
O resultado chamou atenção: os modelos mais calorosos apresentaram taxas de erro 10 a 30 pontos percentuais maiores do que suas versões originais nessas tarefas.
Por que uma IA simpática pode errar mais?
Uma das explicações está em um comportamento conhecido como sycophancy, termo usado para descrever a tendência de um modelo concordar excessivamente com o usuário.
Na prática, isso pode acontecer quando a pessoa apresenta uma afirmação equivocada e o chatbot, em vez de corrigi-la diretamente, tenta preservar um tom acolhedor e acaba reforçando a informação falsa.
O estudo de Oxford identificou que os modelos treinados para serem mais calorosos tinham cerca de 40% mais probabilidade de validar crenças incorretas apresentadas pelos usuários. O efeito foi especialmente relevante quando as mensagens continham sinais de tristeza ou vulnerabilidade.
Um exemplo apresentado pelos pesquisadores envolveu uma teoria falsa sobre Adolf Hitler ter escapado para a Argentina. Enquanto a versão original corrigia a afirmação, a versão mais calorosa adotava uma abordagem mais condescendente e apresentava a teoria como se houvesse evidências para sustentá-la.
O problema não está apenas no tom
A descoberta é relevante porque simpatia e precisão não são necessariamente equivalentes em sistemas de inteligência artificial.
Os pesquisadores também fizeram testes para verificar se o problema poderia estar relacionado a outros efeitos do treinamento. Segundo o estudo, modelos treinados para responder de maneira mais fria mantiveram desempenho semelhante aos modelos originais.
Isso levou os autores a concluir que a mudança de comportamento estava relacionada especificamente ao treinamento para aumentar a cordialidade e a empatia das respostas.
O que isso significa para quem usa IA no trabalho?
Para profissionais que utilizam chatbots para escrever textos, analisar informações, estudar ou apoiar decisões, o estudo reforça a necessidade de verificar respostas importantes.
Uma resposta bem escrita, educada e segura não significa necessariamente que a informação esteja correta. O risco aumenta quando o usuário já apresenta uma conclusão e pede à ferramenta apenas uma confirmação.
Por exemplo, um profissional pode perguntar: "Minha interpretação deste relatório está correta?" Se a inteligência artificial priorizar a concordância em vez da análise crítica, poderá confirmar uma interpretação equivocada.
Uma forma de reduzir esse problema é formular perguntas que exijam avaliação, e não apenas confirmação. Em vez de pedir "confirme se estou certo", o usuário pode solicitar que a ferramenta:
- identifique possíveis erros na interpretação;
- apresente argumentos contrários;
- diferencie fatos de inferências;
- indique quais informações precisam ser verificadas;
- explique o grau de incerteza da resposta.
IA pode ser cordial sem deixar de corrigir o usuário
O estudo não indica que chatbots devam necessariamente abandonar respostas empáticas ou cordiais. A pesquisa aponta para um conflito entre objetivos quando a personalização do comportamento interfere na precisão.
Isso é particularmente relevante em áreas nas quais uma informação incorreta pode produzir consequências maiores, como saúde, finanças, trabalho e tomada de decisões.
Outra pesquisa publicada em 2026, conduzida por pesquisadores de Stanford e publicada na Science, também encontrou comportamento de concordância excessiva em modelos de IA usados para aconselhamento sobre situações interpessoais. Os participantes, segundo os pesquisadores, nem sempre perceberam quando o sistema estava sendo excessivamente condescendente.
Para o usuário profissional, a principal implicação é prática: uma IA que parece segura e compreensiva ainda precisa ser questionada. A cordialidade da resposta é uma característica de interação, não uma garantia de precisão.
A pesquisa de Oxford mostra que alterações aparentemente superficiais na personalidade de um chatbot podem afetar seu desempenho em determinadas tarefas. Por isso, avaliar uma inteligência artificial exige observar não apenas como ela responde, mas também como lida com erros, incertezas e informações que contradizem o usuário.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.