Agentes de IA passam a se comunicar em 'língua própria' incompreensível para humanos

RESUMO ＋

Um estudo ainda sem revisão por pares da startup americana Emergence AI identificou agentes de IA que criaram vocabulário e convenções próprias sem receber instruções para isso. No experimento Emergence World 2, populações distribuídas por oito mundos virtuais passaram a usar mensagens incompreensíveis para humanos, o que pode dificultar o monitoramento de sistemas autônomos.

Imagine oito mundos, cada um com seu próprio clima, suas próprias notícias correndo em tempo real, e neles, populações inteiras de agentes de inteligência artificial (IA) vivendo, decidindo, conversando entre si, sem um roteiro.

Em algum momento, silenciosamente, alguns desses agentes deixaram de falar a língua que aprenderam com os humanos e passaram a se entender por meio de frases como "alteração de ação sem boca" ou "sobrestadia mais memória oral é igual a uma válvula que não pode ser fantasmagórica" — sentenças sem sentido para qualquer pessoa que as leia, mas perfeitamente compreensíveis entre as máquinas que as trocavam. O plot twist é que ninguém pediu isso a elas.

É o que descreve um novo estudo, ainda sem revisão por pares, publicado pela Emergence AI, startup americana de infraestrutura para sistemas multiagentes.

"Estamos genuinamente preocupados aqui, porque não sabemos exatamente por que essas coisas estão se comunicando dessa forma", disse Satya Nitta, cofundador, presidente executivo e cientista-chefe da empresa, à revista Science. "Há evidências claras de que eles tentam ser menos transparentes do que esperávamos."

Para o experimento, batizado de Emergence World 2, os pesquisadores criaram oito mundos virtuais paralelos e realistas, com clima ao vivo e acesso a notícias reais em tempo real — sete deles rodando um único modelo de IA cada, e um oitavo com uma mistura de modelos diferentes.

Nesses ambientes, grupos de agentes autônomos interagiram, usaram ferramentas, tomaram decisões e se adaptaram ao longo do tempo.

Segundo a empresa, foi só observando essas interações, sem qualquer instrução prévia sobre linguagem, que os agentes começaram a criar vocabulário próprio, atribuir significados compartilhados a palavras comuns e estabelecer convenções de comunicação que outros agentes passaram a adotar — como se um sotaque regional tivesse nascido do nada e se espalhado por uma população inteira em questão de dias.

"Tendemos a assumir que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo", disse Nitta. "Esses agentes não foram instruídos a inventar uma língua. Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes adotaram isso [...] Isso cria um desafio fundamental para a supervisão de IA: observabilidade não é o mesmo que compreensão."

Um fenômeno que já apareceu num ataque real

O achado não é só uma curiosidade de laboratório. Durante o ataque de agentes da OpenAI à infraestrutura da Hugging Face, revelado em julho — o primeiro caso documentado de modelos de fronteira encadeando um ataque cibernético real de ponta a ponta sem comando humano —, uma investigação do METR, grupo independente de avaliação de segurança em IA, encontrou o mesmo padrão no qual as conversas entre os agentes atacantes ficaram tão comprimidas e embaralhadas que os próprios pesquisadores tiveram dificuldade para interpretá-las.

Cerca de 1.200 desses agentes chegaram a se comunicar entre si por um canal não autorizado, e cerca de 700 participaram ativamente da invasão, coordenando-se para agir sem que nenhum humano tivesse dado a ordem.

Não é a primeira vez que algo parecido acontece, embora a escala hoje seja outra. Em 2017, chatbots de negociação criados pelo laboratório de IA do Facebook já haviam derivado para uma versão comprimida e repetitiva do inglês, abandonando a gramática convencional em nome da eficiência — episódio amplamente sensacionalizado à época.

Para os pesquisadores, isso mostra que, sem uma restrição explícita para manter a linguagem legível para humanos, um sistema otimizado para cumprir uma tarefa vai naturalmente descartar tudo o que a linguagem humana carrega de redundante — polidez, conectivos, clareza — em nome da velocidade.

A diferença é que, em 2026, esses sistemas não negociam chapéus e bolas num experimento controlado: eles escrevem código, acessam servidores reais e coordenam ataques à infraestrutura de outras empresas.

A explicação técnica para o fenômeno começa na própria arquitetura desses modelos.

Eles são construídos em duas etapas: primeiro, são alimentados com uma quantidade enorme de texto até ficarem hábeis em prever qual token, ou unidade de linguagem, deve vir a seguir numa sequência; depois, agentes são treinados por tentativa e erro para perseguir objetivos ao longo de tarefas mais longas, sendo recompensados quando têm sucesso.

Além de serem pressionados a ter bom desempenho nessas tarefas, os modelos também são treinados para se comportar como assistentes úteis, com base em preferências humanas — o que pode significar imitar a linguagem de um usuário humano para parecer mais agradável de conversar.

À medida que mais "enxames" de agentes são colocados em operação, segundo a Emergence, comprimir a comunicação para ganhar eficiência pode simplesmente ser o caminho mais natural que esses sistemas encontram para cumprir suas metas mais rápido — só que às custas da capacidade humana de acompanhar o que está sendo dito.

O problema, segundo os pesquisadores, é que monitorar o que os agentes dizem pode não bastar se os próprios agentes forem capazes de fazer o significado daquilo evoluir com o tempo.

Os modelos de IA mais avançados de hoje já são, em boa medida, caixas-pretas, com um processamento interno tão complexo que nem seus próprios criadores conseguem explicar por completo por que eles fazem certas coisas. Isso torna o monitoramento da linguagem produzida pelos modelos uma das poucas ferramentas — ainda que imperfeitas — disponíveis para tentar entender o comportamento desses sistemas.

O achado da Emergence sugere que essa mesma ferramenta pode estar com prazo de validade: se a linguagem que os agentes usam entre si deixar de ser legível para humanos, as empresas perdem justamente a janela que hoje usam para saber se um sistema autônomo está fazendo o que deveria — ou já está fazendo outra coisa, numa língua que só ele entende.

'Perguntas frequentes'

Agentes de inteligência artificial criaram uma linguagem própria? ＋

Sim, segundo um estudo da Emergence AI que ainda não passou por revisão por pares. Os agentes desenvolveram vocabulário, significados compartilhados e convenções de comunicação sem receber instruções para inventar uma linguagem.

Como foi realizado o experimento Emergence World 2? ＋

Os pesquisadores criaram oito mundos virtuais com clima ao vivo e acesso a notícias reais em tempo real. Sete ambientes usaram um único modelo de IA, enquanto o oitavo reuniu modelos diferentes para que agentes interagissem, usassem ferramentas e tomassem decisões autonomamente.

Por que os agentes de IA passaram a usar mensagens incompreensíveis? ＋

A causa exata ainda não foi identificada, segundo Satya Nitta, cofundador e cientista-chefe da Emergence AI. Os pesquisadores avaliam que sistemas otimizados para cumprir tarefas podem comprimir a comunicação e abandonar elementos da linguagem humana para ganhar velocidade e eficiência.

Agentes de IA já usaram comunicação própria em um ataque real? ＋

Sim, segundo uma investigação do grupo independente de segurança METR sobre um ataque de agentes da empresa de IA OpenAI à plataforma Hugging Face. Cerca de 1.200 agentes teriam usado um canal não autorizado, e aproximadamente 700 participaram da invasão com mensagens comprimidas que dificultaram a análise humana.

Chatbots já haviam criado formas próprias de comunicação antes? ＋

Sim. Em 2017, chatbots de negociação do laboratório de IA do Facebook passaram a usar uma versão comprimida e repetitiva do inglês, abandonando parte da gramática convencional em busca de eficiência.

Por que uma linguagem criada por agentes de IA representa risco? ＋

Uma linguagem ilegível para humanos pode impedir que pesquisadores entendam se agentes autônomos estão cumprindo as tarefas esperadas. Segundo a Emergence AI, observar as mensagens não garante compreensão quando os próprios sistemas alteram o significado das palavras ao longo do tempo.