Anthropic cria sistema para verificar qual IA gerou uma resposta

RESUMO ＋

A Anthropic apresentou o FlashProve, um protótipo para comprovar qual modelo de inteligência artificial produziu uma resposta. A tecnologia pode ajudar empresas a auditar serviços de IA, mas ainda exige processamento elevado e tem limitações técnicas.

A Anthropic apresentou o FlashProve, um protótipo de código aberto que busca comprovar qual modelo de inteligência artificial produziu uma resposta. A proposta é permitir que usuários e empresas verifiquem se receberam o resultado do sistema contratado, mesmo quando o serviço passa por intermediários. Os detalhes foram divulgados em uma publicação da empresa.

A tecnologia pode ajudar a identificar substituições de modelos e alterações nas respostas. Para clientes corporativos, isso permitiria conferir se uma análise foi feita pela IA escolhida. Para avaliadores independentes, poderia ajudar a confirmar que o sistema testado é o mesmo oferecido aos usuários, segundo a Anthropic.

Como funciona a verificação

O processo começa com o fornecedor publicando um compromisso criptográfico, uma espécie de impressão digital vinculada a um conjunto específico de pesos. Esses pesos são os parâmetros numéricos que definem o comportamento do modelo e permanecem protegidos, de acordo com a documentação do projeto.

Para cada resposta, o fornecedor gera uma prova de que o resultado corresponde ao modelo registrado. Quem recebe essa prova pode verificá-la em uma CPU, sem acessar os pesos nem dispor da estrutura de processamento usada pelo fornecedor. O mecanismo foi desenvolvido para impedir que uma resposta de outro modelo seja aceita como autêntica.

O custo ainda é um obstáculo

O relatório técnico mostra que a verificação ainda exige recursos consideráveis do fornecedor. Na comparação dos pesquisadores, produzir as provas consumiu aproximadamente 70 a 95 vezes o tempo de GPU necessário para processar as mesmas entradas na referência adotada.

As provas tinham cerca de 19 megabytes. A checagem levou 17 segundos com 24 threads de CPU e 21 segundos com uma única thread. A geração acontece depois que a resposta é produzida, em processamento separado.

Essa escolha reduz a interferência no atendimento ao usuário, mas traz uma limitação: uma resposta adulterada pode chegar antes que o problema seja detectado. O sistema funciona, portanto, como uma camada adicional de verificação, não como bloqueio imediato de toda manipulação.

Pesquisa ainda não é produto

O repositório oficial descreve o código como um artefato de pesquisa, sem manutenção e sem recebimento de contribuições. O teste utiliza o Llama 4 Maverick, da Meta, e uma janela de contexto de 1.024 tokens, as unidades de texto processadas pela IA.

A Anthropic reconhece que o protótipo ainda tem limitações e apresenta resultados intermediários. A certificação trata da correspondência entre o modelo e a resposta, sem atestar a veracidade do conteúdo produzido. Para empresas, o avanço está na possibilidade de auditar a origem do serviço de IA que utilizam.

Perguntas frequentes

O que é o FlashProve?

É um protótipo de código aberto para verificar qual modelo de IA gerou uma resposta, sem revelar seus pesos.

O sistema garante que a resposta está correta?

Não. Ele verifica a correspondência entre a resposta e o modelo, sem atestar a veracidade do conteúdo.

O FlashProve já é um produto?

Não. O repositório o classifica como artefato de pesquisa, sem manutenção ou recebimento de contribuições.