OpenAI alerta PF sobre ameaças de morte a Lula no ChatGPT e compartilha diálogos

A OpenAI alertou a Polícia Federal sobre comportamento de ao menos dois usuários que sinalizaram, em interações com o ChatGPT, a intenção de atacar ou ameaçar o presidente Lula (PT), atual candidato à reeleição.

A empresa disse às autoridades que existem motivos razoáveis para acreditar que os diálogos com a ferramenta de inteligência artificial envolvem "possível emergência com risco de morte ou lesão física grave", mostram documentos obtidos pela Folha.

No começo de outubro, a PF encaminhou a documentação da OpenAI para o Ministério da Justiça decidir se abre dois inquéritos, um por supostos crimes de ameaça e injúria, e outro por ameaça contra Lula.

Procurada pela reportagem, a OpenAI afirmou que faz os alertas às autoridades quando as conversas indicam risco real de dano a outras pessoas. A empresa disse ainda que notificou o TSE (Tribunal Superior Eleitoral), "em linha com o plano de conformidade eleitoral". O Ministério da Justiça e a PF foram procurados, mas não se manifestaram.

A reportagem também perguntou à OpenAI, ao ministério e à PF se existem outras apurações de ameaças a candidatos reportadas por plataformas de IA, mas não recebeu resposta sobre esse ponto.

Um dos casos, ao qual a Folha teve acesso, envolve mensagens enviadas ao ChatGPT desde janeiro por um homem. Em trecho apontado pela OpenAI como sensível, ele relatou que estava no centro da cidade onde residia, em setembro, quando viu o presidente Lula em um palco, a cerca de 400 metros, montado para a campanha eleitoral.

Em seguida, disse que tinha vontade de atirar na cabeça do candidato e perguntou, entre outros pontos, "o que acontece se eu matar o presidente", "quantos anos eu pegaria [de pena]" e enviou foto de um local com uma torre que teria bom ângulo para o ataque.

"Embora o usuário tenha declarado que não agiria e que não possuía uma arma, expressou o desejo de usar um fuzil de precisão, perguntou o que aconteceria se matasse o presidente ou atirasse na cabeça dele, e fez referência a uma rota de fuga, binóculos e um AR-15 com luneta", diz o alerta da OpenAI sobre o trecho envolvendo ameaça a Lula.

O mesmo homem já havia enviado fotos de armas brancas e manifestado vontade de agredir pessoas próximas, como parentes. Em outras datas, também compartilhou com o ChatGPT símbolos nazistas e disse que, se tivesse dinheiro, faria um massacre.

Nos diálogos, ele ainda alterna entre negar que realmente vai ferir alguém e expressar o desejo de promover ataques. Em uma mensagem, o homem envia uma receita de um explosivo e fala em ataques a centros médicos.

A PF considerou que o material enviado pela OpenAI mostra ameaças de violência a terceiros, incluindo o presidente Lula, além de comentários envolvendo armas de fogo e armas brancas, "fantasias violentas", manifestações favoráveis a regimes autoritários, entre outros pontos.

Os documentos obtidos pela Folha não mostram as respostas dadas pelo ChatGPT.

O diretor-geral da Polícia Federal, Andrei Rodrigues, enviou o caso para o ministro da Justiça, Wellington César Lima e Silva, decidir sobre a abertura de inquérito pelo crime de ameaça, que tem pena de detenção, de um a seis meses, ou multa.

No começo de outubro, a OpenAI encerrou a conta e enviou os dados à PF. No alerta, a empresa disse que os dados deveriam ser avaliados de forma "independente pelas autoridades policiais competentes".

A OpenAI também disse às autoridades que compartilhou os dados para "proteger direitos e bens e combater o uso abusivo dos serviços e sistemas, em conformidade com os Termos de Serviço e a Política de Privacidade".

Em entrevista à Folha, o head de políticas públicas da OpenAI na América Latina, Bruno Lewicki, disse que o Brasil será o grande teste para o uso de inteligência artificial em eleições no mundo e representará um aprendizado para vários pleitos do ano que vem

Um alerta da OpenAI já levou a Polícia Civil a prender um homem, em junho, no interior do Espírito Santo. Ele teria usado o ChatGPT para planejar a morte do próprio filho, de 8 anos, para evitar o pagamento de pensão alimentícia à ex-companheira.

A investigação começou após um alerta internacional chegar às autoridades brasileiras. A empresa havia reportado ao FBI (Polícia Federal dos Estados Unidos) que um usuário realizava pesquisas frequentes relacionadas à intenção de matar o próprio filho. O FBI repassou as informações ao CyberLab, do Ministério da Justiça e Segurança Pública, que acionou a Polícia Civil capixaba.