Veja casos em que a Anthropic diz que Claude foi usado para armas, espionagem e golpes

O laboratório de inteligência artificial Anthropic afirmou em um relatório divulgado na quinta-feira (10) que vários usuários utilizaram seus produtos para atividades que vão desde o desenvolvimento de armas e operações de espionagem eletrônica até vigilância e fraudes.

Aqui estão alguns dos casos mais notáveis descritos no relatório, segundo a Anthropic.

ARMAS CONVENCIONAIS

Defesas aéreas da China e de Taiwan: A Anthropic afirmou que um usuário sediado na China utilizou o chatbot Claude para desenvolver um pacote de software de guerra eletrônica e supressão de defesa aérea que classificava alvos e simulava interferência de radar.

Durante o projeto, o ator simulou 12 alvos em Taiwan, como radares, baterias de mísseis e bases aéreas.

A Anthropic disse que dados das contas ligavam o usuário à Academia de Ciências Militares do Exército Popular de Libertação e as baniu.

O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo defende que a IA seja desenvolvida para o bem, acrescentando que se opõe à distorção dos fatos e às calúnias contra o país.

Sistema antitorpedo chinês: A empresa disse que outro agente sediado na China utilizou o Claude para desenvolver especificações e software de controle de fogo para um sistema antitorpedos destinado à Marinha chinesa.

O usuário usou o Claude para elaborar proposta técnica, comparar o sistema ao da Marinha dos EUA e aprimorá-lo com simulações.

A Anthropic concluiu que o usuário estava ligado a um fabricante da indústria militar chinesa.

Pesquisa chinesa sobre armas de micro-ondas: Um agente na China utilizou o Claude para pesquisar armas de micro-ondas de alta potência estrangeiras, identificar componentes e fornecedores e rastrear cadeias de suprimentos, afirmou a Anthropic.

O usuário buscou dados para engenharia reversa e contramedidas e redigiu relatórios para autoridades chinesas.

Desenvolvimento de mísseis no Iêmen: A Anthropic informou que um grupo mal intencionado no norte do Iêmen utilizou o Claude para desenvolver software para um foguete guiado, um míssil balístico com alcance de mais de 2.000 quilômetros e uma variante de míssil que incorpora um veículo de planagem hipersônica.

O grupo mal-intencionado usou o Claude em programação e simulações. A Anthropic disse não haver evidência de arma operacional. "Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas", disse a empresa.

Os houthis, alinhados ao Irã e controladores do norte do Iêmen, intensificaram ataques à Arábia Saudita recentemente, mas o relatório não os identificou como agentes.

Drones russos: A Anthropic afirmou que provavelmente agentes independentes baseados na Rússia usaram o Claude para desenvolver software para um enxame de drones de ataque autônomos com visão em primeira pessoa, incluindo orientação terminal, seleção de alvos e coordenação entre várias aeronaves.

Drones de ataque com visão em primeira pessoa são centrais na guerra na Ucrânia, para reconhecimento e ataques.

A Embaixada da Rússia em Washington não respondeu às perguntas sobre alegações específicas feitas pela Anthropic ou sobre o relatório como um todo.

Compra de componentes pela Rússia: A Anthropic disse também que um gerente de compras baseado na Rússia utilizou o Claude para identificar intermediários na China e em Hong Kong para comprar produtos europeus com possíveis usos militares e traçar rotas que pudessem ocultar seu destino.

Segundo a Anthropic, buscavam magnetômetros alemães, wafers de grau espacial e sistemas de oxigênio para aviação. A Rússia recorre a intermediários desde as sanções pela invasão da Ucrânia.

PESQUISA BIOLÓGICA

A Anthropic detalhou cinco tentativas de usar "nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas".

Houve pedidos de ajuda para financiar pesquisa de modificação do vírus da chikungunya em uma região onde a Anthropic não oferece serviço.

Em outro caso, também em um local onde a empresa não opera, o que exige que os usuários ocultem sua localização para utilizar os serviços, a Anthropic afirmou ter detectado esforços para pesquisar a gripe aviária altamente patogênica.

Outros exemplos incluíram pesquisas relacionadas ao ortopoxvírus e a novos venenos e toxinas não transmissíveis.

INVESTIDAS ELETRÔNICAS

Operações na China: A Anthropic afirmou que operadores de língua chinesa, provavelmente baseados em Changsha, na China central, utilizaram o Claude em operações digitais contra cerca de 50 organizações, incluindo redes de governos estrangeiros.

O grupo, que segundo a Anthropic incluía dois universitários, usou IA para encontrar e explorar vulnerabilidades, com pouca supervisão humana.

Coleta de informações pela Rússia: Um grupo de hackers supostamente realizou operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, afirmou a Anthropic.

As técnicas do grupo eram consistentes com as do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.

Reconhecimento naval iraniano: A Anthropic informou ter identificado e neutralizado um operador ligado ao Irã que utilizava o Claude para coletar e analisar dados acessíveis ao público, a fim de recomendar alvos contra as forças navais dos EUA na região.

O material incluía dados públicos sobre militares, navios, aeronaves e imagens de satélite.

O operador também pediu pesquisas sobre falhas em sistemas de bordo, comunicações e controle industrial.

VIGILÂNCIA

Recrutamento de uigures na Síria: Segundo a Anthropic, um usuário alinhado à China utilizou o Claude para rastrear e abordar uigures na Síria, incluindo pessoas consideradas vulneráveis, e oferecer pagamento em troca de informações sobre unidades uigures que haviam se juntado ao exército recém-formado da Síria.

Pequim considera os grupos armados uigures no exterior como organizações terroristas e usa isso como justificativa para políticas de segurança direcionadas ao grupo étnico predominantemente muçulmano.

A Anthropic avaliou, com baixo grau de confiança, que o operador era um contratado que trabalhava para a segurança do Estado chinês.

Folha Mercado

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

Vigilância religiosa e política na China: A Anthropic afirmou que atores ligados à China usaram o Claude para compilar informações de inteligência sobre alvos, incluindo cardeais católicos, líderes cristãos de Taiwan, budistas tibetanos, dissidentes e ativistas.

Em uma operação separada, o chatbot foi usado para automatizar relatórios no estilo governamental que monitoravam uigures, tibetanos, figuras políticas de Taiwan, ativistas trabalhistas e estudantis e a mídia estrangeira.

A China é acusada por governos e entidades de direitos humanos de vigiar críticos no exterior; Pequim nega repressão transnacional.

Vigilância comercial: A Anthropic informou que baniu uma conta que usava o Claude para criar uma plataforma de vigilância comercial destinada a analisar, classificar e traçar perfis das atividades dos usuários nas redes sociais no Irã e na região do golfo.

A Anthropic afirmou que suas descobertas corroboram uma investigação de fevereiro de 2023 pela rede jornalística Forbidden Stories, que documentou um serviço oferecido por uma empresa chamada S2T Unlocking Cyberspace.

A Anthropic disse ter identificado a atividade na fase piloto, sem evidência de uso contra alvos reais. A S2T não respondeu.

Perfilagem iraniana: Um operador ligado ao Irã utilizou o Claude para construir um sistema automatizado de inteligência de código aberto para perfilar indivíduos de órgãos governamentais e não governamentais israelenses e organizações da diáspora judaica, apontou a Anthropic.

Segundo a empresa, o programa foi executado contra alvos preexistentes, e o operador buscou dados sobre israelenses e norte-americanos.

Vigilância interna no Irã: A Anthropic afirmou ter identificado e banido 16 contas do Claude operadas por duas unidades ligadas a agências paramilitares e de segurança interna iranianas não identificadas.

Uma organização, com sete departamentos e escritórios em todo o Irã, alegava manter registros de identidade de cidadãos, segundo a Anthropic.

A outra utilizava o Claude para desenvolver uma extensão maliciosa de navegador usada para coletar em massa identidades de usuários das principais redes sociais.

Um pedido de comentário enviado aos representantes do governo iraniano nas Nações Unidas não foi respondido imediatamente.

Vigilância de comunicações no Mali: A Anthropic afirmou que o Claude foi utilizado como principal ferramenta para uma plataforma de vigilância doméstica criada para o serviço de inteligência estatal do Mali. A plataforma era capaz de monitorar dados associados a cerca de 25 milhões de cartões SIM das três operadoras de celular do país.

A empresa afirmou que o sistema, chamado Lakana 360, parece ter sido desenvolvido em grande parte por um único consultor que trabalhava com a Agência Nacional de Segurança do Estado do Mali.

O gabinete do primeiro-ministro do Mali não respondeu.

Segmentação de campanhas e partidos: A Anthropic também disse ter observado um agente de língua francesa utilizando o Claude para segmentar 42 partidos políticos europeus, mídia, grupos de estudo e provedores de software utilizados por essas organizações.

O sistema do operador roubou dados e credenciais de login de vários serviços. Também compilou uma "plataforma de doxxing criada especificamente para esse fim", que poderia ser usada para coletar e expor informações sobre inúmeras pessoas.

GOLPES

Aplicativos de namoro baseados em IA: A Anthropic informou que uma operação sediada na China desenvolveu mais de 20 aplicativos de namoro contendo mais de 4.700 personas de IA que interagiram com pelo menos 25 mil usuários.

A operação usava personas e trabalhadores pagos para fazer os perfis parecerem genuínos, informou a empresa.