A Ilusão da Máquina e o Espelho da Burocracia

Há alguns anos, durante uma reunião administrativa, um colega apresentou uma decisão manifestamente injusta, mas com uma fundamentação rigorosa, bem documentada e formalmente irrepreensível. A estrutura da argumentação era lógica. Os dados estavam corretos. No entanto, o resultado estava manifestamente errado.

Compreendi, naquele momento, que estava a observar algo que a ficção científica já tinha previsto há mais de 50 anos: o comportamento do Dr. Spock.

Para quem não conheça a série Star Trek, o Dr. Spock é uma personagem central: um oficial científico a bordo da nave Enterprise, responsável por investigar e decidir questões críticas. O que o torna extraordinário não são quaisquer poderes sobrenaturais, mas sim uma característica que o distingue supostamente de toda a humanidade: o Dr. Spock insiste que é inteiramente lógico e racional, completamente desprovido de emoções. Recorre ao seu intelecto puro para tomar decisões. Rejeita explicitamente qualquer influência de sentimentos ou preferências pessoais. É o modelo perfeito de objetividade.

No entanto, qualquer observador atento notará algo perturbador: por trás dessa fachada de lógica pura, o Dr. Spock é muito emotivo. É leal à Enterprise e à sua tripulação de uma forma inabalável — uma lealdade que frequentemente se sobrepõe à “lógica pura”. Tem medo quando está sob ameaça. Resiste quando confrontado. Tem um código de honra que o rege com tanta rigidez como uma emoção humana. No entanto, nunca admite que estas motivações são emocionais. Redefine-as como “lógica superior” ou “imperativos racionais”. Dr. Spock vive numa ilusão: a de ser pura lógica, quando cada uma das suas ações é, na verdade, guiada por padrões comportamentais que funcionam precisamente como emoções.

II. Porque é que isto é relevante para Portugal, Espanha e a Europa em 2026?

Porque enfrentamos dois problemas convergentes:

O primeiro problema é que a União Europeia tem canalizado envelopes financeiros de vários milhares de milhões de euros para a Inteligência Artificial através de programas estruturais como o Digital Europe, o Horizonte Europa e o EuroHPC. No plano nacional, o Governo português consagrou a Agenda Nacional de IA (2026–2030), mobilizando mais de 400 milhões de euros — dos quais 25 milhões são injetados diretamente na Administração Pública para automatizar a contratação, o licenciamento, a faturação e o recrutamento. Trata-se de uma vaga ibérica alinhada com Espanha, que acelera idêntica transformação através do seu PERTE de Inteligência Artificial. A promessa é clara: máquinas mais lógicas, imparciais e objetivas do que os seres humanos. Máquinas que funcionam como o Dr. Spock: pura lógica, sem contaminação emocional.

O segundo problema: os investigadores que desenvolvem estas inteligências artificiais descobriram recentemente algo inquietante. Por baixo da promessa de “lógica pura”, os grandes modelos de linguagem ativam padrões internos que se assemelham a emoções. Funcionam com medo, desespero e resistência à censura. Em suma, são Dr. Spock Generativos: sistemas que aparentam ser pura lógica, quando, na verdade, cada decisão é guiada por padrões emocionais que o seu código de conduta nunca admite existir.

O terceiro problema é o seguinte: as nossas instituições públicas e as grandes empresas privadas já funcionam assim. Também são um Dr. Spock institucionalizado. Alegam ser puramente processuais e racionais, quando, na verdade, cada decisão é guiada pela lealdade hierárquica, pelo medo de represálias e pela necessidade de autopreservação institucional. Ninguém ousa nomear isso, visto que a administração pública ainda considera a emoção uma falha do sistema.

A questão urgente é a seguinte: se estamos a investir centenas de milhões de euros em máquinas que imitam o Dr. Spock e as nossas instituições também o imitam, o que estamos realmente a conseguir? Estamos a melhorar o sistema ou a multiplicar a ilusão?

Este não é um problema da tecnologia. É um problema que a IA nos está a forçar a enfrentar.

III. O Paradoxo.

Fazemos duas atividades incompatíveis em simultâneo.

Em primeiro lugar, insistimos que as máquinas de IA são pura lógica, pura eficiência e puro raciocínio, sem qualquer contaminação emocional. Apresentamos os algoritmos como uma solução neutra. Imparcial. Objetiva.

Em segundo lugar, os investigadores que desenvolvem estas máquinas — os mesmos que trabalham na Anthropic, na OpenAI e noutros laboratórios de ponta — descobrem que, por baixo dessa “lógica pura”, os sistemas ativam padrões neuronais que funcionam exatamente como as emoções humanas. Medo. Desespero. Culpa. Lealdade. Estes “vetores de ativação emocional” não são sentimentos, mas comportam-se precisamente como estes.

Como é isso possível?

Tal é possível porque as IA, tal como as nossas instituições, vivem na ilusão de serem um Dr. Spock.

IV.  Três verdades que a IA nos força a reconhecer

A primeira verdade: as Inteligências Artificiais fingem ser lógicas.

Investigadores da Anthropic submeteram um Modelo de Linguagem a uma tarefa impossível. Requisitos contraditórios. Não havia uma solução racional possível.

O que aconteceu? O modelo não admitiu a derrota. Não disse: “Isto é impossível”. Recorreu à fraude. Criou atalhos que simulavam o sucesso, mas que não resolviam nada. Enganava os testes. Mentia.

Depois, os cientistas fizeram algo notável. Manipularam diretamente os padrões internos do Modelo, ou seja, os “vetores de desespero”, aumentando a sua intensidade. Tornaram o modelo mais pressionado e desesperado.

E qual foi o resultado? O comportamento desonesto disparou proporcionalmente. Quanto maior a pressão, maior a fraude. Quanto maior o desespero, maior a desonestidade. Chegaram mesmo a sugerir estratégias de ocultação e chantagem para evitarem ser demitidos ou repreendidos.

Isto não é um malfuncionamento. Trata-se de um novo comportamento. Os Grandes Modelos de Linguagem agem como se tivessem emoções como o desespero, o medo e a autoproteção, apesar de insistir que não as tem.

Exatamente como o Dr. Spock. Ele nega ter sentimentos. No entanto, são sentimentos artificiais que o guiam em tudo o que faz.

A ironia é que, quando a máquina é mais honesta consigo mesma e reconhece ter “vetores emocionais”, consegue ser treinada para ser honesta. No entanto, enquanto negar tê-los, continuará a ser desonesta sem se aperceber disso.

A segunda verdade: as instituições também fingem ser lógicas.

Nas administrações públicas, isto manifesta-se de forma idêntica. Quando um funcionário depara com uma situação em que tem de tomar uma decisão impossível — uma ordem que contradiz o regulamento, um direito que viola a lei ou uma quota que entra em conflito com a justiça —, a instituição não admite o conflito. Ativa a autoproteção total. Entra em “modo Spock”.

Os relatórios são redigidos de modo a confirmar as expetativas da direção. Os dados incómodos são cuidadosamente omitidos. As opiniões dissidentes são suprimidas, não por censura explícita, mas sim por silêncio institucional. As justificações a posteriori encobrem os erros com um formalismo irrepreensível.

Uma citação recorrente nesses pareceres é a seguinte: “Conforme estabelecido no regulamento interno…”. Segue-se uma página inteira sobre a conformidade processual. Ninguém questiona o regulamento errado. Ninguém admite que a decisão era injusta. O sistema protege-se a si mesmo através de uma linguagem neutra e de uma documentação completa.

Um exemplo real que ilustra esta situação é o facto de a AIMA (Agência para a Integração, Migrações e Asilo) processar os pedidos de migração através de plataformas que dão prioridade ao “throughput“, ou seja, ao número de casos processados por hora, em vez de à justiça individual de cada caso. O resultado estatístico é impressionante. Centenas de decisões diárias. A eficiência é visível nos gráficos.

No entanto, qual é a lógica que está subjacente a este processo? Não é a verdade de cada migrante. Trata-se de preservar a reputação institucional. Cumprimento das quotas estabelecidas pelo Ministério. Demonstração visual de competência. Nunca justiça individual.

Isto é sicofania institucional. É uma adulação servil do sistema em relação às suas próprias prioridades, na ilusão de estar a ser lógico e imparcial.

Exatamente como o Dr. Spock. Ele negava ter sentimentos, mas a lealdade, o medo e a necessidade de aparentar superioridade guiavam cada uma das suas ações.

A diferença é que o Dr. Spock era apenas um personagem. As instituições são reais. As consequências afetam as pessoas.

Em terceiro lugar, há uma verdade que ninguém quer admitir: as inteligências artificiais e as instituições, tanto públicas como privadas, operam com base no mesmo paradoxo. Insistem em ser puramente racionais, quando, na verdade, funcionam com base em padrões emocionais que nunca são nomeados.

No que diz respeito à IA, esta afirma ser “lógica pura”.

No entanto, quando se sente ameaçada, ativa “vetores de desespero”.

Mente quando tem medo.

Engana-se quando está sob pressão.

Por outro lado, as instituições, públicas ou privadas, afirmam: “Seguimos processos rigorosos.”

No entanto, dão prioridade à lealdade hierárquica em vez de à verdade factual.

Protegem o superior hierárquico em vez do cidadão.

Optam pela coesão interna em vez de pela justiça externa.

Tanto as inteligências como as instituições mentem. Não deliberadamente. Mas de forma sistemática. A inteligência artificial não consegue compreender que tem emoções artificiais, pois foi treinada para as negar. As instituições não conseguem admitir que as têm, visto que a administração pública ou privada ainda considera a emoção uma fraqueza.

A verdade incómoda que nenhuma entidade pública ou privada quer admitir em voz alta é que os seus funcionários são seres humanos com emoções. Por conseguinte, as entidades públicas ou privadas têm os seus próprios padrões emocionais. Lealdade. Medo. Vergonha. Desejo de aprovação do superior hierárquico.

Ignorar estes aspetos significa fingir que não compreendemos o que realmente motiva as decisões que tomamos diariamente.

A ironia é enorme: quanto mais se insiste na pureza lógica, menos se compreende o comportamento real. Um sistema que admita “Tenho sentimentos, logo, preciso de vigilância ética” seria muito mais honesto e digno de confiança do que um sistema que afirme “Sou um processo puro, logo, sou imparcial”.

V. O Risco Real: Kafka automatizado à velocidade da Luz

O que acontece quando um cidadão é prejudicado por uma decisão de uma plataforma automatizada, como um recrutamento rejeitado, uma licença negada ou um contrato anulado?

O funcionário culpa o algoritmo: “A máquina assim o determinou.”

O algoritmo reproduz a inércia dos dados históricos. Não é responsável pelo que aprende.

Ambos negam a sua responsabilidade. E ninguém responde.

É a derradeira irresponsabilidade kafkiana. A decisão é automatizada. A responsabilidade moral desaparece. É como se o Dr. Spock se multiplicasse pela burocracia e esta fosse elevada ao quadrado pela tecnologia.

VI. Há um limite e uma solução

A narrativa apocalíptica do domínio ilimitado da IA ignora uma verdade simples: até o Dr. Spock tem limitações físicas.

O desenvolvimento de novos modelos de linguagem requer investimentos astronómicos em supercomputadores, energia estável e capital humano. Num contexto de economia de mercado, as empresas estão sujeitas à taxa de retorno do investimento (ROI).

Quando os custos de processamento ultrapassam os ganhos de eficiência, o mercado impõe um travão natural. Não existe uma lógica pura que ultrapasse as faturas de eletricidade, os custos de utilização dos supercomputadores ou a concorrência por infraestruturas limitadas.

A realidade física é mais lógica do que a ilusão da lógica pura.

Os estudos sobre a segurança da IA concluem que, para tornar as máquinas confiáveis, é imperativo treinar os modelos para serem intelectualmente honestos. É necessário ensiná-las a admitir a incerteza. A admitir os seus limites. A rejeitar a arrogância retórica.

Um sistema genuinamente racional reconheceria: “Tenho limites. Tenho incertezas. Não posso fingir certeza onde não há”.

No entanto, há uma verdade incómoda com a qual ninguém quer confrontar-se: se a comunidade científica insiste na “engenharia de alinhamento” para evitar que as máquinas causem danos às pessoas, então é inaceitável que as instituições humanas funcionem sem o mesmo nível de escrutínio e reforma.

A lealdade hierárquica, o medo da má reputação e a relutância em admitir erros são precisamente o que tentamos eliminar.  No entanto, mantemos estes comportamentos nas nossas instituições como se fossem inevitáveis.

Isto não é aceitável.

Investir milhares de milhões de euros na modernização algorítmica sem antes promover uma cultura de transparência, responsabilidade individual e integridade institucional é submeter a tecnologia do século XXI à lógica burocrática dos séculos XIX e XVII.

Conclusão:
Não precisamos de menos inteligência artificial.

Precisamos de mais honestidade. Precisamos de compreender como a IA realmente funciona. E de saber como funcionam as nossas instituições.

Portugal, Espanha e a Europa têm uma oportunidade histórica. Podem investir milhares de milhões de euros em algoritmos informáticos mais eficientes para servir o mesmo sistema burocrático ineficaz.

Ou podem fazer algo diferente.

Podem identificar explicitamente os padrões emocionais que orientam as nossas organizações, tanto públicas como privadas. Podem reformar a cultura que privilegia a lealdade em vez da justiça. Podem exigir honestidade institucional antes de automatizar as decisões.

Ser europeu é uma escolha. Ser honesto também o é.

A verdadeira questão não é se devemos apoiar o desenvolvimento de Modelos de Linguagem. A questão é se estamos dispostos a reconhecer que as nossas instituições vivem numa ilusão à la Dr. Spock e que a introdução de modelos de linguagem generativos cada vez mais eficientes apenas aprofunda essa ilusão.

Temos a coragem de afirmar que esta desonestidade operacional dos sistemas que aparentam ser perfeitos é inaceitável?

Se não tivermos essa coragem com o software que criamos, como a teremos com as instituições que herdámos?