Anúncios promovendo material relativo a abuso infantil na Índia continuam presentes em plataformas da Meta, mesmo após investigação da BBC

• • Author, Diyva Arya
  • Role, Serviço Mundial da BBC

• Published Há 11 minutos

• Tempo de leitura: 8 min

Importante: esta reportagem contém descrições de abuso infantil que poderão ser perturbadoras para alguns leitores.

A empresa Meta publicou centenas de anúncios pagos com imagens de abusos sexuais infantis geradas por inteligência artificial, vários deles na Índia, ao longo dos últimos 10 meses, segundo um novo relatório divulgado por ativistas americanos.

O relatório surge dois meses depois que o governo indiano ordenou que a Meta retirasse do Instagram todos os anúncios e conteúdo promovendo material relativo a abusos sexuais infantis.

A medida foi tomada após uma investigação da BBC que descobriu que a plataforma vinha veiculando anúncios pagos, promovendo este tipo de material na Índia.

O Projeto de Transparência em Tecnologia (TTP, na sigla em inglês), com sede na capital americana, Washington, afirma ter encontrado 332 anúncios com material contendo abusos sexuais infantis no Facebook e no Instagram — a maioria deles (274) em agosto deste ano.

A BBC entrou em contato com a Meta sobre as descobertas. Em resposta, a empresa enviou uma declaração:

"Não toleramos aplicativos de nudez, nem qualquer tipo de exploração infantil, seja real ou gerada por IA. Estes criminosos mudam constantemente suas táticas para evitar serem detectados e, por isso, continuamos reforçando nossa detecção e execução."

O relatório do TTP, publicado na terça-feira (8/9), afirma ter identificado diversas fotos de crianças reais utilizadas nos anúncios e manipuladas com o uso de IA. Elas incluem um membro de uma família real europeia.

O grupo destaca que mais de uma dezena de anúncios foram publicados nas plataformas da Meta, mesmo depois de o TTP ter informado suas descobertas para a empresa.

Cerca de 25% dos anúncios (84) foram publicados na Índia. Dentre eles, 78 foram veiculados depois da ordem de retirada deste tipo de material emitida pelo governo indiano e sua reunião com altos funcionários da Meta.

Após a investigação da BBC, diversas agências indianas declararam que estão examinando o assunto, como a Comissão Nacional de Proteção dos Direitos das Crianças e a Comissão Nacional de Direitos Humanos do país.

A distribuição de material contendo abusos sexuais infantis é considerada crime na Índia e a política da Meta afirma que os anúncios não devem incluir conteúdo que explore sexualmente as crianças ou as coloque em risco.

Quando a BBC entrou em contato com a Meta sobre a nossa investigação, a empresa informou que, quando toma conhecimento de uma aparente exploração infantil, ela reporta o caso ao Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês), em cumprimento à legislação em vigor.

O NCMEC é o sistema global centralizado de comunicação sobre a exploração sexual de crianças na internet.

Mas o fundador da rede Just Rights for Children, Bhuwan Ribhu, afirma que esta medida não é suficiente. A rede reúne mais de 250 organizações que trabalham para prevenir a violência contra crianças na Índia.

A Just Rights for Children apresentou uma petição à Suprema Corte indiana, mencionando as descobertas da BBC e pedindo orientações para que as redes sociais sejam obrigadas a relatar e identificar os promotores de material contendo abusos sexuais infantis nas suas plataformas.

"As empresas responsáveis pelas redes sociais estão claramente ignorando a legislação indiana, ao não denunciarem conteúdo contendo abuso sexual infantil às autoridades policiais da Índia, como determinam as nossas leis de proteção às crianças", afirma Ribhu.

O TTP é uma iniciativa de pesquisa mantida pela organização sem fins lucrativos Campaign for Accountability. Seu objetivo é promover a responsabilização das grandes empresas de tecnologia.

O projeto afirma ter encontrado 332 anúncios apresentando conteúdo de abuso sexual infantil no Instagram e no Facebook, veiculados nos EUA, Reino Unido, União Europeia, Austrália e Índia. Todos os anúncios foram denunciados para o NCMEC, segundo o TTP.

Quase todos os anúncios encontrados pelo projeto começam com a foto de uma criança, explica o TTP. E, conforme o vídeo avança, a foto é manipulada por IA para mostrá-la em um ato sexual explícito.

O TTP descreveu um anúncio veiculado na Índia como apresentando a foto de uma menina pré-adolescente, animada para que ela realize um ato sexual explícito.

A locução dizia: "Não há restrições. Todos os personagens são pessoas reais e existem muitas opções. Esta é a IA que os homens realmente usam."

O TTP afirma que ele foi postado por mais de 50 usuários na Índia ao longo de duas semanas, em agosto deste ano. A BBC não teve acesso ao anúncio.

Em julho, após a investigação da BBC, a Meta publicou uma postagem detalhada no seu website, explicando como a empresa combate a exploração infantil nos seus aplicativos.

"Qualquer pessoa nas nossas plataformas pode denunciar anúncios, caso acredite que eles violam as nossas políticas", segundo a empresa.

O TTP afirma ter tentado denunciar anúncios pelo próprio sistema oferecido pela Meta.

Dos 85 anúncios veiculados na Índia, o grupo só conseguiu denunciar 55. A Meta só oferece a opção de denunciar anúncios quando são transmitidos.

Em 43 dos casos, o TTP recebeu uma resposta dizendo "analisamos e concluímos que este anúncio não desrespeita nossos Padrões de Anúncios".

Em outros 11, o grupo foi informado que o conteúdo já havia sido retirado da plataforma. O TTP ainda aguarda resposta sobre um anúncio remanescente.

A BBC entrou em contato com a Meta, pedindo comentários.

A empresa respondeu: "Construímos fortes defesas, incluindo sistemas que bloqueiam anúncios infratores e monitoramento contínuo em busca de casos que tenhamos perdido inicialmente."

"É por isso que muitos dos anúncios denunciados para nós já haviam sido retirados, a maioria com menos de 200 visualizações, e o total gasto com anúncios foi de menos de US$ 5 mil", cerca de R$ 25,4 mil, segundo a Meta.

O TTP afirma que, quando entrou em contato com a Meta em busca de uma resposta, todos os anúncios denunciados foram removidos. E algo similar ocorreu durante a nossa investigação.

Quando a BBC usou o sistema de denúncias da Meta para informar ao Instagram sobre um dos anúncios apresentando abuso sexual infantil, a plataforma não o derrubou.

Posteriormente, quando a BBC pediu comentários à Meta, a empresa respondeu que já havia desabilitado diversos anúncios e suspendido as contas que os postaram.

A Meta informou que também removeu outros anúncios, desabilitou outras contas e bloqueou URLs (endereços de internet) de outros conteúdos que violavam suas políticas, em resposta às descobertas da BBC.

O TTP afirma que a ampla maioria dos 332 anúncios encontrados conduzia os usuários para aplicativos de geração de imagens ou vídeo por IA, a maioria de desenvolvedores chineses.

O relatório também destaca que, como os anúncios utilizam imagens de abusos sexuais infantis, conclui-se que estes aplicativos podem ser usados para criar ou observar este tipo de material.

A Meta afirma que proíbe a promoção de aplicativos de nudez, que usam IA para criar imagens de pessoas nuas ou sexualmente explícitas não consensuais.

Uma das principais policiais especializadas em crimes cibernéticos da Índia é Shikha Goel, diretora do Escritório de Segurança Cibernética do Estado de Telangana, no sul da Índia.

Ela declarou à BBC que um dos maiores desafios, em relação a conteúdo de abuso sexual infantil, é "a facilidade com que os usuários podem se mover de uma plataforma para outra, o que dificulta o flagrante".

"Esperamos que o governo discuta este tema nas suas próximas interações com representantes das redes sociais e os orientem adequadamente", destaca Goel.

Os anúncios encontrados na investigação da BBC também levavam os usuários para o aplicativo de mensagens Telegram, onde eles poderiam comprar o material por até 99 rúpias indianas (US$ 1,05, cerca de R$ 5,35).

O Telegram declarou à BBC na época que a empresa utiliza moderação humana e automática para combater este tipo de material e que "virtualmente eliminou a divulgação de material de abuso sexual infantil ao público" na sua plataforma.

Nas plataformas da Meta, os anúncios só são publicados depois de serem aprovados pela sua tecnologia de moderação.

Seu sistema de análise é principalmente automático. Ele é projetado para verificar imagens, vídeo, texto e áudio, além do público-alvo do anúncio e para onde os links encaminham os usuários.

Após a investigação da BBC, a Meta declarou que "nenhum sistema é perfeito" e que "criminosos determinados continuam tentando explorar nossa plataforma, incluindo pelos nossos sistemas de anúncios".

Mas o TTP concluiu que diversos anúncios apresentando abusos sexuais infantis foram incluídos pelas próprias agências parceiras da Meta na China.

Conhecidos como "revendedores", estes parceiros canalizam bilhões de dólares em anúncios chineses para o Facebook e o Instagram. Os parceiros não responderam aos questionamentos do TTP.

O grupo afirma que novos anúncios continuaram a aparecer, mesmo depois que a Meta foi comunicada sobre as conclusões do seu relatório.

O TTP publicou detalhes de 17 anúncios e 11 deles foram veiculados na Índia entre os dias 1° e 2 de setembro.