É possível desacelerar o desenvolvimento da IA 'apocalíptica'?

"Nenhuma das duas empresas age de forma responsável. Elas avançam diretamente rumo a uma superinteligência capaz de se aprimorar sozinha e estão brincando com nossas vidas", escreveu Coxon na rede X na quarta-feira (9). "As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode matar todos nós até o fim da década. Isso não é uma estratégia de marketing", acrescentou.

Após a declaração de Coxon, Geoffrey Hinton, um dos vencedores do Nobel de Física de 2024 e um dos pioneiros da inteligência artificial, estimou em entrevista ao programa BBC Newsnight, na quarta-feira (9) que o risco de 10% de a IA aniquilar a humanidade nos próximos dez anos é "plausível". Ele ressaltou que é impossível avalair esse risco com precisão, já que a humanidade jamais criou seres que possam se tornar mais inteligentes do que ela própria. 

Para Hinton, a IA dispensa a presença física para representar uma ameaça existencial. Ela poderia se tornar inteligente o suficiente para provocar a extinção da humanidade sem recorrer a robôs para atacar diretamente as pessoas. A ONU também já havia se pronunciado na segunda-feira (7) sobre o risco que a IA "sem controle" representa para a humanidade.

Apesar dos alertas, a concorrência entre as empresas líderes do setor, que envolve investimentos de centenas de bilhões de dólares, dificulta, na prática, a redução do ritmo de desenvolvimento das ferramentas. As techs temem "ficar para trás" em um momento decisivo para o mercado. Dario Amodei afirmou estar disposto a se coordenar com concorrentes, exceto os chineses.

Segundo o site The Information, Anthropic, OpenAI e Google discutem desde julho a criação de um órgão de supervisão profissional. Até agora, a única medida concreta adotada pela Anthropic e pela OpenAI é a presença permanente de observadores independentes encarregados de verificar internamente os trabalhos relacionados à segurança da IA.

Estratégia de comunicação?

Muitos integrantes do setor elogiaram a iniciativa de Dario Amodei, mas outros questionam suas motivações. Para Brian Roemmele, empreendedor do setor, o fato de a polêmica surgir poucas semanas antes da provável abertura de capital da Anthropic é uma estratégia comercial que visa passar uma imagem de empresa "responsável", que oferece segurança adicional.