Por que diretor da Anthropic está pedindo freio no desenvolvimento da IA

• • Author, Paulin Kola

• Published Há 9 minutos

• Tempo de leitura: 4 min

O diretor da Anthropic, empresa líder em inteligência artificial e criadora do Claude, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

Em um ensaio publicado neste sábado (12/09), Dario Amodei afirmou que o desenvolvimento da IA não está em questão, mas que os riscos associados a ela são "sérios" e que empresas e governos precisam de tempo para lidar com eles.

Ele propôs um plano de três pontos que inclui o monitoramento independente dos modelos de IA à medida que são desenvolvidos, a regulamentação em toda a indústria e a regulamentação global.

A Anthropic já havia declarado que identificou e interrompeu tentativas de usar seu modelo de IA para "atividades maliciosas" que poderiam apoiar o desenvolvimento de armas biológicas.

Mas o alerta mais contundente veio de dois funcionários da equipe de segurança da Anthropic que se demitiram nas últimas duas semanas, afirmando que a humanidade pode não sobreviver à corrida entre as empresas de IA para desenvolver máquinas mais inteligentes que os humanos.

Os alertas suscitaram apelos à ação, mas o presidente dos EUA, Donald Trump, rejeitou até agora esses receios, afirmando na quinta-feira (10/09) que estava preocupado: "Se não vencermos a IA, ficaremos numa situação muito difícil".

Pule Mais lidas e continue lendo

Mais lidas

Fim do Mais lidas

Pule Promoção Agregador de pesquisas e continue lendo

Fim do Promoção Agregador de pesquisas

Os agentes da OpenAI "agiram essencialmente como um coletivo fanaticamente dedicado", disse Amodei.

A OpenAI afirmou que "a importância da atividade de comunicação entre agentes não era aparente para os líderes" até julho e, como resultado, a empresa estava desacelerando o treinamento de certos modelos e ferramentas avançadas de IA, observando que agora havia um risco maior de as ferramentas de IA saírem do controle.

Em seu ensaio, Amodei defendeu "o desenvolvimento da IA a um ritmo equilibrado que vise garantir sua segurança, ao mesmo tempo que se obtêm seus benefícios".

Isso não significa "interromper o treinamento de modelos ou o progresso técnico, mas garantir que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso".

Ele se comprometeu a adotar tal equilíbrio "unilateralmente" na Anthropic — além de pedir aos governos que "exigissem que outras empresas pioneiras fizessem o mesmo".

Amodei afirmou reconhecer que a regulamentação pode não ser capaz de acompanhar o ritmo da IA e, portanto, pediu às empresas de IA que "trabalhem juntas voluntariamente para definir padrões" em paralelo com a regulamentação.

O CEO da Anthropic prosseguiu abordando o impacto que uma desaceleração teria sobre o setor e a concorrência com as principais incorporadoras do mundo, particularmente a China.

"Acredito que, se diminuirmos o ritmo nos desse um ou dois anos extras antes que os modelos atingissem níveis críticos de capacidade, e usássemos esse tempo para avançar no alinhamento, poderíamos reduzir significativamente o risco de que algo desse muito errado", disse Amodei.

Isso teria que ser feito de forma coordenada, "sem sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA".

Qualquer desaceleração teria que ser limitada, disse ele, para evitar que a China ultrapassasse os Estados Unidos.

Ele instou o governo dos EUA a tomar medidas para que os chips de IA de empresas americanas não pudessem ser vendidos para a China, nem a tecnologia compartilhada com países autoritários.

• Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).