Por que a IA mente? Entenda as alucinações e como contorná-las

Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno tem nome, alucinação, e é um dos problemas mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma segurança com que apresentam fatos verdadeiros. Um estudo recente chegou a encontrar casos em que modelos inventaram decisões judiciais inteiras, atribuídas a processos que nunca existiram.

Para Peter Ruppersberg, a explicação está na forma como esses sistemas foram construídos. Os grandes modelos de linguagem são treinados para prever a próxima palavra de um texto e continuar a conversa, e não para medir o que sabem. "Uma resposta fluente não é necessariamente uma boa decisão", afirmou em entrevista à EXAME. Ruppersberg desenvolveu tecnologia de IA para orientar médicos durante procedimentos cardíacos, vendida à Boston Scientific em 2025, e hoje comanda a startup suíça Ammonix.

A incerteza como resposta

A experiência no hospital mudou a forma como ele pensa o problema. "Na medicina, você aprende repetidamente que acertar na maior parte das vezes não é suficiente", disse. "Numa sala de cirurgia, você não pode simplesmente dizer a um médico que o modelo acha que essa é a resposta. As perguntas importantes surgem na hora: por quê? Que evidência sustenta isso? E, talvez o mais importante, o sistema sabe quando não sabe?"

A lição mais importante que ele tirou dessa experiência é que a dúvida também é um resultado. "Em software convencional, as pessoas costumam pensar em entrada e resposta. Na medicina, um sistema responsável às vezes precisa produzir: 'não tenho evidência suficiente para tomar essa decisão'", explicou.

Para isso, é preciso que o sistema saiba o tamanho do próprio conhecimento. Na abordagem da Ammonix, a IA opera dentro de um conjunto definido de decisões e compara cada nova situação com os casos em que foi treinada.

Quando a situação não se parece com nada conhecido ou quando a confiança é baixa, o sistema se abstém. Dependendo da aplicação, pede mais informação, encaminha o caso para uma análise mais profunda ou chama um especialista humano. "Às vezes, a saída mais segura e mais inteligente é simplesmente: não conheço esse caso bem o suficiente", disse.

O que a indústria já está tentando

A indústria começou a tratar o problema. Uma pesquisa publicada pela OpenAI em 2025 já apontava que métodos tradicionais de avaliação podem favorecer respostas arriscadas. Se o modelo é recompensado principalmente por acertar, ele tem incentivo para tentar responder mesmo sem certeza, em vez de admitir a dúvida.

Ao lançar o Claude Opus 5.5, esta semana, a Anthropic divulgou um teste em que pediu a modelos que escrevessem relatórios financeiros com um verificador automático conferindo cada número e citação; qualquer dado inventado reprovava o texto. Segundo a empresa, o novo modelo passou em 16 de 18 tentativas, enquanto os anteriores não passaram em nenhuma. O avanço, porém, ainda não elimina o problema.

Enquanto isso, a dica prática para quem usa IA no dia a dia é tratar respostas muito confiantes com a mesma cautela que as hesitantes. Pedir as fontes, conferir números em documentos originais e perguntar ao assistente o quanto ele tem de certeza ajudam a reduzir o risco — basta incluir no comando algo como "se não souber, diga que não sabe, não invente" para mudar o comportamento do modelo. Para decisões que envolvem saúde, dinheiro ou questões legais, a regra vale para qualquer ferramenta: quanto maior a consequência de um erro, maior deve ser a verificação humana.