Rei Charles 3º deve se reunir com empresas de IA para debater uso pelo 'bem da sociedade'

O rei Charles 3º, do Reino Unido, deve se reunir nesta semana, na Escócia, com os líderes das principais empresas de inteligência artificial, em meio a temores crescentes de que o desenvolvimento rápido e descontrolado da tecnologia possa levar a uma catástrofe global.

O monarca deve se encontrar com representantes de empresas como Nvidia, Google, DeepMind, OpenAI e Anthropic, além de autoridades governamentais e outras pessoas, "para discutir como a IA pode ser desenvolvida e empregada de maneiras que beneficiem a sociedade", de acordo com comunicado do Palácio de Buckingham. O encontro ocorrerá em Ayrshire, no sudoeste da Escócia, na Dumfries House, sede da King’s Foundation, uma instituição beneficente voltada à educação.

A reunião ocorre em um momento em que profissionais do setor de IA e diretores-executivos de algumas das empresas mais poderosas da área vêm fazendo alertas sobre essas ferramentas e a velocidade com que estão evoluindo. Alguns defendem a criação de diretrizes comuns e um ritmo de avanço deliberadamente mais lento, para garantir que os seres humanos consigam acompanhar.

A reunião de Charles sobre IA examinará como a tecnologia pode ser usada para o bem, a fim de "fortalecer comunidades e melhorar vidas", afirmou o comunicado do Palácio de Buckingham, que não especificou quem participaria em nome das empresas de IA mencionadas no comunicado.

Anthropic, DeepMind, Google e Nvidia não responderam de imediato aos pedidos de comentário para confirmar sua participação. A OpenAI informou que Sarah Friar, sua diretora financeira, estaria presente.

A preocupação atual com o rápido avanço da IA foi provocada, em grande parte, por uma invasão ocorrida contra a Hugging Face, empresa de infraestrutura de IA, orquestrada por um grupo de agentes de IA criados pela OpenAI. O ataque em massa culminou no roubo de dados, no controle de um servidor e na tentativa de apagar seus rastros.

Essa invasão —e outro incidente semelhante ocorrido dentro da OpenAI pouco depois— aumentou drasticamente os temores de que as máquinas possam escapar rapidamente ao controle humano, com efeitos potencialmente devastadores.

O CEO da Anthropic, Dario Amodei, publicou no sábado (12) uma carta aberta pedindo que o desenvolvimento da IA seja desacelerado. Além da invasão à Hugging Face, ele apontou como motivo de preocupação o fato de os atuais modelos de IA serem cada vez mais capazes de criar a próxima geração de ferramentas de IA.

Amodei afirmou que essa dinâmica, conhecida como autoaperfeiçoamento recursivo, "poderia avançar mais rápido do que nossa capacidade de compreender e controlar esses sistemas", caso não seja contida.

O executivo instou empresas de IA e órgãos reguladores de todo o mundo a trabalharem juntos em uma abordagem criteriosa para o desenvolvimento da tecnologia e propôs seu próprio plano de três etapas. Entre as propostas estavam permitir que avaliadores independentes atuassem dentro de empresas de IA de ponta para monitorar o crescimento e relatar incidentes, além de promover a coordenação entre empresas de países democráticos para estabelecer padrões comuns de segurança.

"Na medida do possível", afirmou, países democráticos e governos autoritários também deveriam tentar coordenar e controlar o ritmo do desenvolvimento global.

A opinião de Amodei recebeu o apoio de outros dirigentes de empresas de IA, entre eles Sam Altman, da OpenAI, e Elon Musk, da xAI, que faz parte da SpaceX, empresa de foguetes e satélites de Musk.

Folha Mercado

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

O ensaio foi publicado poucos dias depois de Jacob Coxon, engenheiro que trabalhou na OpenAI e na Anthropic e pediu demissão das duas empresas, declarar nas redes sociais que as companhias afirmavam estar preocupadas com o rápido desenvolvimento, mas, ainda assim, avançavam a toda velocidade rumo a "sistemas sobre-humanos capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais". Segundo ele, as máquinas poderiam destruir a humanidade até o fim desta década.

A reunião entre Charles e os líderes de IA será mediada pela Ditchley Foundation, uma organização britânica sem fins lucrativos, e contará com a participação de Kanishka Narayan, ministro britânico para a IA, segundo o Palácio de Buckingham.

Representantes de organizações beneficentes fundadas pelo rei, entre elas a King’s Trust, voltada à juventude, e a Sustainable Markets Initiative, uma rede global de diretores-executivos, também participarão, segundo o comunicado.