IA representa um risco real? "Os governos têm de intervir"

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Este jornal junta-se Pedro Veiga, ex-coordenador do Centro Nacional de Cibersegurança. Bom dia, bem-vindo à Rádio Observador. Compreende estes avisos ou identifica razões para tantos avisos de tantos líderes de empresas de inteligência artificial durante esta semana?

Sim, eu não sou especialista em inteligência artificial, mas é uma área que acompanho há muitíssimos anos muito de perto, porque sou universitário e foi mais nessa função que dialogava muito com os meus colegas e compreendo estas preocupações. Se bem que devo chamar a atenção o seguinte: hoje em dia também se utiliza o termo inteligência artificial para quase tudo, porque faz marketing. Eu preocupo-me mais com a interação da inteligência artificial com a cibersegurança, que era o que eu ensinava na faculdade e também durante os dois anos e pico em que fui coordenador do Centro Nacional de Cibersegurança, me preocupei. Inclusive, recordo-me que há 10 anos, numa conferência anual que nós organizávamos, eu convidei o professor Lindo Oliveira, que tinha sido meu aluno, e esse é um grande especialista em inteligência artificial.

Mas Pedro Veiga, é disso que estamos a falar, porque muitos dos riscos que estamos aqui a falar são precisamente o risco da inteligência artificial estar a atacar empresas, estar a atacar outros sistemas, de forma que as empresas que estão a desenvolver esses sistemas não conseguem compreender e não conseguem encontrar, muitas vezes, justificações para esses ataques.

Tem toda a razão e é isso que eu ia já abordar a seguir. Eu tomei aqui umas notas para falar. Os ataques que me preocupam mais são às infraestruturas da nossa sociedade. Nós dependemos cada vez mais do digital, os bancos, as companhias de eletricidade, as companhias de transporte, na área da saúde. Portanto, há uma dependência crescente do digital. E estes ataques são cada vez mais sofisticados, devido aos avanços que têm sido feitos na área da inteligência artificial, mas também os ataques sobre as pessoas. Recordo-me que há 10 anos as pessoas recebiam mensagens chamadas spam, em que vinham umas mensagens muito mal escritas, muitas vezes em português brasileiro, e era fácil de identificar, mas hoje em dia aparecem mensagens que nos tentam ludibriar em português muito correto e também mensagens faladas e em vídeo, o chamado deep fake, em que é possível imitar a voz e, por vezes, o vídeo da imagem de uma pessoa e as pessoas caem com facilidade. É a chamada engenharia social. E depois, hoje em dia, as pessoas também têm uma tendência a reagir com rapidez a tudo o que recebem. Há um ano, um ano e tal, falou-se muito das mensagens "olá, pai", "olá, mãe". Eu inclusive conheço pessoas no meu grupo de amizades que caíram nessa asneira. Recebia uma mensagem a dizer: "Olá, pai, olá, mãe, perdi o telemóvel, estou a telefonar de outro, transfere-me dinheiro". Mas eu próprio recebo.

Pedro Veiga, diga-me uma coisa, perante estes avisos, pelo conhecimento que tem, defende que se deve também travar o desenvolvimento de novos modelos de inteligência artificial até se compreender ao certo como é que tudo isso funciona?

Não, isso é um problema muito mais polémico. Eu acompanho tudo o que se passa nesta área e ouço os dirigentes de muitas empresas americanas, da Anthropic, ChatGPT, etc, que tiveram recentemente problemas bastante graves, os seus sistemas saíram fora do que estava inicialmente previsto e fizeram ataques. Mas, por exemplo, há grande desenvolvimento noutras zonas do globo, nomeadamente na China, e não ouço dirigentes da China, todos nós temos nossa opinião sobre a China, e se as empresas filiadas nos Estados Unidos querem fazer controle, mas noutras zonas do mundo não fazem controle. Isto é extremamente polémico e não tenho visto muita discussão. Também há empresas europeias a fazer desenvolvimentos em IA. Aí a União Europeia, a Comissão Europeia tem tido um certo posicionamento a tentar controlar a IA, mas não vejo facilidade a nível mundial de se fazer controle. Dou-lhe um exemplo que eu às vezes dou quando faço apresentações.

Sim, para terminar.

As armas são muito perigosas, as metralhadoras, etc. Há leis que as proíbem, mas vemos muitos crimes cometidos com essas armas. E, portanto, quem está à margem da lei pode vir a usar estas ferramentas de inteligência artificial para cometer crimes. Ainda há poucos dias também vinha uma notícia de que os gestores destas plataformas estão a controlar tentativas de criar, por exemplo, armas biológicas. E, portanto, tudo isto é muito complicado. Os governos têm de intervir, mas têm de ser os governos a nível mundial e também as nossas polícias que acompanham isso devem verificar os criminosos, porque os criminosos depois não seguem a lei. Podemos ter umas leis lindíssimas, mas depois os criminosos atuam à margem da lei.