OpenAI e Anthropic alertam ONU para riscos da IA

Os executivos da Anthropic e da OpenAI, dois dos principais laboratórios de inteligência artificial (IA) dos EUA, alertaram o Conselho de Segurança das Nações Unidas para os riscos da evolução dos sistemas de IA.

Sam Altman, CEO da OpenAI, esteve presente na sala, enquanto Dario Amodei, CEO da Anthropic, fez uma intervenção à distância. Clément Delangue, cofundador da plataforma de código Hugging Face (que foi atacada por agentes de IA da OpenAI), também falou à distância. As intervenções feitas perante as Nações Unidas acontecem depois de um ex-investigador da Anthropic e da OpenAI alertar para a possibilidade de a IA ameaçar a humanidade. 

Um ataque concertado, agentes “sacrificados” e até uma hierarquia. Como o caso Hugging Face expôs o que pode correr mal na IA

O investigador canadiano Yoshua Bengio, considerado um dos “padrinhos da IA” pelos contributos que deu para a evolução da tecnologia, declarou que “os perigos são reais e iminentes”. “Este conselho enfrenta uma ameaça sem precedentes, uma que nenhum dos seus membros escolheria, que ninguém consegue conter sozinho e que não respeita as fronteiras que defendemos”, cita a Reuters. Bengio é copresidente do Painel Científico Internacional Independente, um órgão criado na Assembleia-Geral das Nações Unidas no ano passado.

“As empresas que desenvolvem os sistemas de IA mais poderosos admitem que os seus produtos representam riscos catastróficos, mas não oferecem soluções técnicas convincentes”, afirmou o investigador. “Em vez disso, dizem que estão envolvidas numa corrida para tornar essas IAs ainda mais poderosas, o que amplifica ainda mais esses riscos.” Só que, aos olhos de Bengio, a corrida “não é uma lei da natureza, resulta de escolhas — escolhas que foram feitas pelas próprias companhias”. “Também é uma corrida em que toda a gente perde”, alertou.

Dario Amodei, da Anthropic, declarou que “se for mal gerida”, a “IA pode tornar-se um risco para a humanidade como um todo”.

“Podemos perder o controlo do futuro para a IA”, disse Sam Altman, rival de Amodei, citado pela AP News. O executivo defendeu que “para a IA ser democrática, as decisões mais importantes não podem ser tomadas só pelos laboratórios em São Francisco”. “Têm de ser formadas através de processos democráticos e governos que respondem perante as pessoas que servem”, cita a Reuters. “A um nível internacional, isto requer cooperação.”

“Ao longo da nossa história, houve momentos em que países que competem entre si e nem sempre se dão muito bem se uniram, na mesma, por interesses comuns e pelo bem coletivo, perante uma nova tecnologia poderosa. Acreditamos que este deve ser um desses momentos”, defendeu o líder da empresa que criou o ChatGPT.

Clément Delangue, CEO da Hugging Face, afirmou que a empresa que lidera “foi a primeira a nível mundial a divulgar publicamente um ataque feito por agentes autónomos”. “Podemos todos concordar que é preciso maior transparência na IA.”

[Dois meses após o desaparecimento, e já depois de o genro, Raymond Quendoz, lhes ter anunciado que ia divorciar-se dela, os Silva Pais recebem finalmente notícias da filha. Annie está bem. Recusa dar detalhes sobre o seu paradeiro mas há cada vez mais evidências de que fugiu do marido para se juntar à revolução cubana. E, se isso aconteceu, uma coisa é certa: Annie tem de ter tido a ajuda e o aval do próprio Fidel Castro. Resta apenas saber porquê. Já pode ouvir o segundo episódio de “Os Escândalos de uma Revolucionária”, o novo Podcast Plus do Observador. Está disponível no site do Observador, na Apple Podcasts, no Spotify e no Youtube.]