Da Anthropic a Trump: entenda a polêmica sobre riscos da IA

Um apelo por mais cautela no desenvolvimento da inteligência artificial ganhou força neste fim de semana, reunindo declarações de executivos do setor, um ex-pesquisador que classificou o cenário como assustador e uma resposta contrária do presidente dos Estados Unidos, Donald Trump.

A repercussão também chegou aos mercados financeiros, com ações de fabricantes de chips sob pressão.

Apelo de Amodei e o apoio de rivais

O diretor-executivo e cofundador da Anthropic, Dario Amodei, pediu neste sábado, 12, que as empresas do setor avancem de forma mais lenta no desenvolvimento da IA, priorizando a prevenção de riscos associados à tecnologia.

"Devemos reduzir o ritmo com o qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharemos", escreveu Amodei em publicação no próprio blog.

Segundo o executivo, o desenvolvimento da tecnologia não está em questão, mas os riscos associados a ela são "sérios" e exigem tempo para que empresas e governos consigam lidar com eles. A Anthropic também afirmou que passará a adotar avaliações independentes de terceiros como parte de suas salvaguardas.

O pedido recebeu apoio de concorrentes diretos. O CEO da OpenAI, Sam Altman, declarou nas redes sociais que concorda com Amodei e que sua empresa seguirá o mesmo caminho, aceitando avaliações externas de segurança. Elon Musk, diretor da xAI, também endossou a posição: "Dario está certo".

A opinião de Coxon

Jacob Coxon, pesquisador que deixou a Anthropic (onde trabalhou após passagem pela OpenAI), afirmou à BBC que os profissionais da área estão "genuinamente assustados" com a velocidade dos avanços da IA.

"Acredito que, se não diminuirmos o ritmo atual de progresso, há uma grande chance de todos morrermos em um futuro próximo", disse.

Coxon avaliou de forma positiva a proposta de desaceleração de Amodei, mas defendeu que qualquer medida precisaria ser coordenada com a China para evitar "uma corrida em escala internacional".

Segundo ele, um dos riscos mencionados por Amodei — um enxame de bots atuando como um supercomputador capaz de dominar a internet — poderia se tornar realista em um prazo de seis meses a um ano.

O pesquisador afirmou ainda que colegas do setor temem que o perigo possa se concretizar já nos próximos dois anos, e que alguns profissionais têm cogitado até comprar terrenos isolados por medo da instabilidade gerada pelo avanço acelerado da tecnologia.

Apesar disso, Coxon disse manter certo otimismo, destacando que pesquisadores da área "realmente querem ver o lado positivo" da IA, como avanços no combate a doenças.

Em resposta, a Anthropic afirmou à BBC que sempre foi transparente sobre o fato de que a IA trará "tanto enormes benefícios quanto riscos sem precedentes" e que segue desenvolvendo modelos com salvaguardas robustas, incluindo testes agressivos e publicação de resultados para evitar falhas de segurança.

Outras vozes do setor

O cientista Evan Hubinger também expressou preocupação, afirmando acreditar que a chance de a IA matar todos os seres humanos pode ultrapassar 10% na próxima década. O pesquisador Geoffrey Hinton, vencedor do Prêmio Nobel e considerado o "pai da IA", disse à BBC que essa mesma probabilidade "não é irrazoável".

Já Marc Warner, CEO da empresa de segurança em IA Faculty, ponderou que é "extremamente difícil" estabelecer uma probabilidade exata para esse risco, mas reconheceu a sinceridade dos alertas feitos por líderes do setor.

A resposta de Trump

Neste domingo, 13, o presidente dos Estados Unidos, Donald Trump, rebateu os pedidos de desaceleração durante visita à Irlanda. Ele classificou os defensores da medida como "forças negativas".

"Acho que há muitas forças negativas levantando essa questão quando não deveriam, e estão sugerindo coisas que não vão acontecer", declarou a jornalistas.

Na última sexta-feira, 11, ao deixar Dallas, o presidentes dos EUA já tinha sinalizado que não tem nenhuma preocupação com a possibilidade de a IA levar à extinção da humanidade.

"Minha preocupação é que, se não vencermos a corrida da IA, vamos ficar em uma posição muito ruim. Estamos liderando a China agora por um bom período — eu diria um ano, o que já é considerado muito tempo", disse.

Impacto no mercado de chips

Segundo analistas ouvidos pela Bloomberg, os apelos por desaceleração devem afetar no curto prazo as ações de fabricantes de chips e da cadeia de suprimentos ligada à IA, mas o impacto tende a ser limitado no longo prazo, já que os investimentos em infraestrutura de computação seguem fortes.

Papéis de semicondutores devem sentir o efeito mais imediato de uma possível queda no mercado nesta segunda-feira, 14.

Gary Tan, gestor da Allspring Global Investments em Singapura, avaliou que o episódio deve gerar apenas pressão de curto prazo. Já Billy Leung, estrategista da Global X Management em Sydney, argumentou que a desaceleração pode até beneficiar o setor, ao dar mais tempo para que as empresas monetizem a infraestrutura já construída.

O índice Nasdaq 100 já acumula queda superior a 4% em relação ao recorde de junho, enquanto um indicador de ações de semicondutores nos Estados Unidos recuou 14% e papéis de tecnologia asiáticos caíram quase 8%.

Em contraste, o S&P 500 e o índice MSCI de ações globais registraram altas de cerca de 0,6% no período. Os contratos futuros da SK Hynix, negociados na plataforma Hyperliquid, chegaram a cair 2,5% na manhã deste domingo.

Segundo Charu Chanana, estrategista-chefe da Saxo Markets em Singapura, o clima de cautela tende a ser passageiro, com a pressão por segurança impulsionando investimentos em cibersegurança e ferramentas de monitoramento de IA.

"A demanda por poder computacional e a adoção de IA não desaparecem só porque são introduzidas salvaguardas adicionais", afirmou.