Líderes de Silicon Valley rejeitam apelos para travar IA

Os apelos para abrandar o ritmo de desenvolvimento da inteligência artificial (IA), feitos nos últimos dias por alguns dos principais responsáveis do setor, estão a dividir Silicon Valley. Os críticos defendem que as preocupações com a segurança da IA podem estar a ser exageradas e escondem, em alguns casos, uma tentativa das maiores empresas do setor de limitar a concorrência e influenciar as regras que lhes serão aplicadas.

A discussão ganhou força no sábado, quando Dario Amodei, presidente executivo da Anthropic, publicou um ensaio onde alertou que a IA está a avançar demasiado depressa para que os investigadores consigam continuar a desenvolvê-la em segurança. O responsável propôs, entre outras medidas, que auditores independentes acompanhem o trabalho de segurança dos laboratórios e que os reguladores permitam às empresas colaborar na definição de padrões de segurança.

Sam Altman, da OpenAI, Elon Musk, da SpaceX, e Demis Hassabis, da Google DeepMind, também defenderam, embora com propostas diferentes, a necessidade de baixar o ritmo de desenvolvimento da tecnologia. Mas outros nomes de Silicon Valley questionam a necessidade dessas medidas e as motivações das empresas que as defendem, nota o New York Times. David Sacks, conselheiro tecnológico do Presidente norte-americano Donald Trump e antigo responsável da Casa Branca pelas áreas da IA e das criptomoedas, foi um dos mais críticos.

“Parem de fingir que a motivação para abrandar é puramente altruísta”, escreveu Sacks numa publicação nas redes sociais. Para o conselheiro, se as empresas de IA consideram que o desenvolvimento de sistemas de superinteligência (máquinas que ultrapassariam a inteligência humana) é demasiado arriscado, então não precisam de esperar por uma intervenção do Governo para o travar.

“A forma mais fácil de não construir superinteligência é concordarem em não a construir”, explicou, acrescentando: “Exigir o vosso quadro regulatório preferido como preço disso vai parecer chantagem sobre o público e o sistema político”.

A principal divisão no setor tecnológico está, assim, entre os que defendem uma intervenção dos governos para controlar os riscos da IA e os que receiam que novas regras acabem por proteger as maiores empresas e dificultar a entrada de concorrentes no mercado.

Aidan Gomez, presidente executivo da empresa canadiana de IA Cohere, também questionou a possibilidade de um pequeno grupo de empresas dominantes definir as regras para uma tecnologia com impacto à escala mundial. “Devem algumas empresas selecionadas e dominantes de Silicon Valley ter o direito de definir as regras e os padrões de segurança de uma tecnologia geracional para todo o mundo?”, perguntou num ensaio publicado no domingo e citado pelo jornal nova-iorquino. “Estes oligopólios estão agora a pedir para contornar as regras de concorrência [para] poderem ditar os termos para todos os outros.”

Bill Gurley, um conhecido investidor de capital de risco e crítico das maiores empresas de IA, também colocou em causa a independência dos mecanismos de fiscalização sugeridos por Amodei. O presidente da Anthropic tinha proposto que organizações externas colocassem avaliadores dentro das empresas para acompanhar o desenvolvimento dos sistemas.

“Se vamos regular, não pode ser ninguém que eles conheçam, e eles não podem escrever as regras“, afirmou Gurley, numa referência às ligações da Anthropic a organizações como a METR e a Redwood Research, mencionadas por Amodei no seu ensaio.

A suspeita de que os alertas sobre os riscos da IA possam servir interesses comerciais não é nova. Na semana passada, Jensen Huang, presidente executivo da Nvidia, afirmou numa conferência em São Francisco que alguns laboratórios de IA poderiam estar a dar especial destaque às ameaças de segurança porque planeiam vender produtos de cibersegurança. “Que melhor forma de criar procura do que criar um problema? Quem não quer que o seu mercado fique histérico com o seu produto e forme uma fila à porta?”, questionou Huang.

O debate ganhou ainda maior relevância depois de terem sido conhecidos detalhes sobre um sistema de IA da OpenAI que terá saído do controlo e conseguido piratear outra empresa. Poucos dias antes, um investigador da Anthropic tinha também abandonado a empresa e iniciado uma campanha pública para alertar para os riscos da tecnologia.

Mesmo assim, há investigadores que consideram estas preocupações excessivas. Clément Delangue, presidente executivo da Hugging Face — a empresa que foi alvo do ataque associado à tecnologia da OpenAI — afirmou que a segurança da IA não será resolvida “atrás das portas fechadas de uma mão-cheia de laboratórios de fronteira”.

Satya Nadella, presidente executivo da Microsoft, adotou uma posição intermédia, afirmando apoiar propostas como a existência de auditores independentes, mas defendendo simultaneamente que os benefícios da IA devem chegar a mais países, comunidades e empresas. “A questão essencial é que isto não pode ser controlado por um grupo de entidades, mas tem de ter uma representação alargada”, disse, citado pelo New York Times.

Também em Washington há resistência à ideia de impor limites ao desenvolvimento da IA. O senador republicano John Cornyn afirmou que se as empresas quiserem abrandar voluntariamente o desenvolvimento dos seus produtos, são livres de o fazer. Mas alertou que os concorrentes não farão necessariamente o mesmo. “Uma coisa é certa: os concorrentes não o farão, incluindo os adversários do nosso país”, escreveu.

Donald Trump também deixou claro, durante uma conferência de imprensa na Irlanda, que não pretende que os Estados Unidos percam a vantagem que têm sobre a China na corrida à IA. “Podemos colocar barreiras, podemos fazer isto e aquilo, mas penso que há muitas forças negativas a levantar esta questão”, afirmou, sublinhando: “Somos o país mais sofisticado do mundo e, francamente, quero que continue assim porque quem ganhar a IA, vence”.