Empresas de IA querem entidade para controlar riscos

As tecnológicas OpenAI, a Anthropic e a Google DeepMind e a Google DeepMind estão a trabalhar na criação de um órgão de supervisão dos riscos associados à inteligência artificial (IA), em resposta a apelos para um maior controlo da indústria.

A criadora do ChatGPT, a empresa OpenAI, revelou esta terça-feira que a ideia surgiu de uma proposta de Demis Hassabis, diretor-geral da Google DeepMind antes de assumir a presidência em agosto, que sugeriu uma entidade semelhante à Autoridade norte-americana de regulação da indústria financeira (FINRA, na sigla em inglês), instância de autorregulação do setor financeiro.

O debate sobre os riscos da inteligência artificial intensificou-se desde o início do verão, alimentado por uma série de incidentes e declarações alarmistas de vários profissionais do setor.

Alguns modelos da OpenAI e da Anthropic chegaram mesmo a sair espontaneamente do seu ambiente confinado para aceder à Internet e invadir outras plataformas.

Mas a criação de um órgão de supervisão pelo próprio setor, ainda que por iniciativa exclusiva da indústria, exigiria uma lei, nomeadamente para evitar acusações de conluio e infrações à concorrência. A FINRA, por exemplo, foi autorizada por lei federal e funciona sob supervisão da SEC, regulador dos mercados norte-americanos.

“A FINRA pode conceber as suas próprias regras, mas a SEC tem de as aprovar”, indicou à agência France-Presse Andrew Tuch, professor de Direito na Universidade de Washington em St. Louis.

Após o apelo ao abrandamento do desenvolvimento da IA lançado pelo presidente da Anthropic, Dario Amodei, Donald Trump e vários membros da maioria presidencial reiteraram a sua oposição a restringir o setor, oficialmente por receio de que a China ganhe vantagem.

O Presidente norte-americano, Donald Trump, classificou como “farsas” os alertas de vários especialistas sobre os riscos da IA para a humanidade.

Membros destacados da indústria da IA têm apelado ao Governo dos EUA para que enquadre o setor e supervisione a segurança. A Administração Trump lançou em agosto um processo de avaliação dos novos modelos, mas assente em ações voluntárias e sem mecanismos claros.

Na sua proposta de julho, Hassabis imaginava uma estrutura financiada pelas empresas do setor, com um conselho composto por especialistas independentes e representantes de sistemas abertos de IA, modelos gratuitos e modificáveis, ao contrário dos modelos fechados da OpenAI ou da Anthropic.

As empresas mais avançadas teriam de submeter os seus novos modelos a exame, centrado sobretudo na segurança, antes da comercialização.

Segundo Hassabis, esta nova instância poderia também coordenar um abrandamento do desenvolvimento da inteligência artificial, caso a avaliação dos riscos não acompanhasse o ritmo da tecnologia.

“Quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não de padrões voluntários da indústria”, reagiu o senador democrata Bernie Sanders, em Washington.

Vários observadores, sobretudo republicanos, acusaram os gigantes da IA de “captura regulatória”, isto é, de quererem definir a sua própria regulação e proteger a sua vantagem competitiva em detrimento de concorrentes e consumidores.

O conselheiro de Trump, David Sacks, considerou existir o risco da criação de “um cartel da IA”, defendendo que cada empresa deveria agir unilateralmente, ainda que desacelerando sozinha o seu desenvolvimento, cenário considerado improvável face aos investimentos já realizados.