Parlamento deve legislar sobre riscos da IA?

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Este é o Explicador das manhãs 360 esta segunda-feira sobre os riscos da inteligência artificial. São nossos convidados os deputados João Tilly, do Chega, André Pinotes Batista, do PS, e João Jorge Miguel Teixeira, da Iniciativa Liberal. A moderação é da Carla Jorge Carvalho e do Paulo Ferrara.

Nas últimas semanas têm-se multiplicado os alertas sobre os riscos da inteligência artificial. Vários responsáveis de empresas tecnológicas defendem que se deva abrandar o ritmo do seu desenvolvimento. Obrigado aos três pela presença neste Explicador. Bom dia a todos. João Tilly, começando por si, este é um assunto que deve merecer a atenção da Assembleia da República, dos deputados, no sentido até, eventualmente, de legislar sobre os limites de desenvolvimento da inteligência artificial?

Bom dia a todos. Sim, claro que sim. Este é talvez até um dos temas mais importantes do nosso tempo atual. Claro que haverá outros, mas este entronca em todos eles. E começo já por fazer um disclaimer, o Chega defende que existe a necessidade de Portugal estar na vanguarda destas tecnologias e ao mesmo tempo levar a sério os avisos e os apelos internacionais relativamente à necessidade do controlo e dos contrapesos destas tecnologias. Mas começamos pelo princípio: de que tipo de AI estamos a falar, de que tipo de inteligência artificial estamos a falar? Daqueles que usamos no dia a dia para coisas quotidianas, para recolher informação rapidamente ou para elaborar PowerPoints, cartazes, flyers, cartoons ou até vídeos humorísticos? Essas não fazem mal nenhum. Mas há outra, a verdadeiramente generativa, que se lhe derem acesso a áreas críticas como a segurança, a banca, a energia, pode realmente tomar decisões que considere corretas, mas que são altamente lesivas para a humanidade. E já agora, quero dizer que esses avisos já vêm de longe, ainda nem sequer se falava em inteligência artificial. Em 1968, Stanley Kubrick, no seu filme "2001: Uma Odisseia no Espaço", já alertava para a possibilidade das máquinas controlarem as missões, neste caso, uma missão que ia a Júpiter, e o computador HAL 9000 acabou com a tripulação toda. E outros filmes como o do Steven Spielberg, "A Inteligência Artificial" e o "I, Robot". São apenas exemplos de que isto já não é uma matéria nova, mas que está realmente agora na ordem do dia.

E agora está a passar da ficção para a realidade, talvez. André Pinotes Batista, bom dia, bem-vindo também.

Bom dia.

Concorda, de facto, que o Parlamento deve ter uma atenção especial sobre este tema?

Eu antes de mais queria saudar-vos a todos, os participantes e os moderadores, e o Observador por trazer um tema que, na minha opinião, já devia ter chegado às orgânicas dos governos há muito tempo. É incompreensível como é que no momento em que a inteligência artificial dita tanto do nosso presente e do nosso futuro, nós não tenhamos nas orgânicas dos três últimos governos, para apanhar também o da minha força política, tutela dedicada a esta área. E vejamos, é importante colocar aqui três questões. Por que é que hoje estamos a discutir isto? Porque Dario Amodei, o presidente da Anthropic, deu uma entrevista recentemente a alertar para riscos. E nesse mesmo dia, Elon Musk e Sam Altman, dois players relevantíssimos, vieram concordar com ele. E sempre que estas três forças estão em concordância, nós devemos nos perguntar o porquê desta discussão neste momento. Eu chamo a atenção do seguinte: em maio de 2024, a inteligência artificial era incapaz de gerar uma imagem do Will Smith a comer espaguete. Nós estamos em 2026 e hoje em dia estamos a discutir o fim da civilização e o fim dos tempos com a inteligência artificial. Mas a problemática é muito maior, e esta é a terceira questão. As pessoas confundem muitas vezes o que é a IA que têm na palma da mão, os ChatGPTs, as questões que foram aqui já colocadas da geração de documentos, de gráficos.

Os modelos de linguagem.

Os LLMs grandes e com implementações empresariais e em intel, em segurança de Estado. E é importante nós percebermos esta dimensão por uma razão muito simples. Hoje em dia, a inteligência artificial tem a virtuosidade de nos colocar mais próximos da cura de algumas formas de cancro, mas também tem os perigos de termos sistemas de vigilância em que, através da integração e da venda de dados, nós temos, por exemplo, hoje em dia a acontecer na Uber, uma coisa que é absolutamente notável e que eu acho que quem está a ouvir do carro vai perceber exatamente. Durante 13 anos, a Uber deu prejuízo, $ 31 bilhões de prejuízo, e hoje em dia é lucrativa porque começou a utilizar a inteligência artificial para pagar menos aos seus trabalhadores. As empresas que prestam serviços de nursing nos Estados Unidos, as quatro grandes, neste momento têm uma prática que é, através da análise dos créditos que qualquer um dos seus utilizadores tem e dos seus trabalhadores. Imaginem vocês como jornalistas que a inteligência artificial tinha acesso à vossa exposição a dívida e a proposta que o Observador vos fazia para serem trabalhadores variava não em função da vossa qualidade, não em função do vosso percurso, mas em função da vossa fragilidade circunstancial. Quanto maior fosse a vossa dívida ao banco, menor era a proposta que vos era colocada. Portanto, nós temos aqui grandes desafios. Última questão, porque este é um painel a três, não é um painel meu, é importante percebermos o seguinte: estes alertas que são feitos, são feitos por uma indústria que está alicerçada numa bolha de milhares de milhões de dólares. Nós estamos a falar que cada uma destas empresas tem exposição, venda de futuros, investimentos em infraestruturas na ordem dos 10 zeros a 12 zeros.

Muita dívida nisso também, André Pinotes Batista.

Muito. E um sistema circular, as pessoas têm que perceber, isto é gravíssimo o que está a acontecer. Eu não quero ser o faustor da desgraça, eu sou um entusiasta de tudo o que é tecnologia e toda a tecnologia traz riscos, não se trata de nada disso. Mas ouvir Elon Musk, Sam Altman e Dario Amodei pedirem regulação, pedirem intervenção estatal, fez-me questionar o que é que se estava a passar. E quando vamos analisar o que se passa, é muito simples. Todas estas empresas dependem da NVIDIA para terem acesso à tecnologia de chips. Isto, depois, é uma questão geopolítica que vai integrar com Taiwan, não interessa agora aqui detalhar muito para não perder o raciocínio. E aquilo que está a acabar por acontecer é que nós temos um sistema inflacionado em que as empresas vão à NVIDIA pedir prospects de futuro de acesso à tecnologia e com isso acabam por vender mais e vão se cotando e dizem ter valores na ordem dos cinco vezes 10 elevado a 13 zeros. E depois, na verdade, o que acaba por acontecer é que vão ao sistema bancário, financiam-se e voltam à NVIDIA e voltam a fazer a mesma coisa. O que é notável aqui, dou este exemplo para não me acusarem de ser um perigoso gonçalvista, é que a BlackRock quis se pôr de fora disto. Quando foram todos ter com a BlackRock e outros fundos privados de grande peso, nomeadamente aquele que era liderado por Warren Buffett, que hoje em dia tem outro CEO, mas do qual ainda é chairman, colocaram-se na postura de serem intermediários do financiamento, mas sem meterem lá o seu próprio capital, só third-party investment. Portanto, reparem que quando os grandes grupos, e o do Warren Buffett é notável, porque eles estão a acumular liquidez neste momento, uma liquidez brutal, isto só pode representar uma coisa, é que este grupo entende que o risco é para já. E portanto, eles estão se a resguardar, estão a shortar o mercado, estão se a resguardar para poderem muito brevemente serem os únicos que não têm exposição. E eu chamo a atenção disto, porque nós estamos a discutir isto, porque três das maiores figuras do mundo colocaram isto na ordem do dia.

Sim.

Eles não nos avisaram antes. E finalizo dizendo o seguinte Quando Elon Musk pede regulação, nós devemos estar atentos. A discussão é outra, é uma bolha gigantesca que aqui está e nós temos que proteger as pessoas. Os portugueses não estão imunes a isto, porque nós sabemos, em 2008, finalize com esta ideia pra terem noção. Neste momento eu não sei dizer, e ninguém sabe dizer, se a bolha é 10 vezes ou 100 vezes maior do que a de 2008. Mas sabe-se que é entre 10 a 100, é pra percebermos a grandeza do que estamos a discutir.

E por tudo isto, e não finalizo, ainda vamos continuar a conversar consigo, mas por tudo isto, Jorge Miguel Teixeira, bem-vindo também para a Iniciativa Liberal. Chegou a hora do Parlamento intervir, ter intervenção nesta matéria ou o Parlamento já é uma instituição demasiado pequena para a dimensão do risco?

Olá, bom dia, Carla, e cumprimento também quem está conosco no painel e quem nos está a ouvir. Antes de responder a isso, quero só fazer aqui um ponto de situação, porque eu já acompanho este tema há alguns anos e inclusive cheguei a trabalhar sobre ele antes de estar na Assembleia da República, quando estive em Bruxelas. E aquilo que se tem vindo a acontecer agora, na realidade, não é nada de novo. É que nem sequer os próprios apelos dos CEOs dessas empresas, bem como este caso muito famoso agora de um investigador que saiu da Antropic a dizer que tínhamos o risco 10% de ter um desfecho catastrófico de inteligência artificial.

Para a humanidade? Sim.

Para a humanidade, exatamente. É que, na realidade, já saíram dezenas de investigadores destas empresas ao longo dos últimos anos. Basta ir ao Twitter e ver o que é que vários ex-investigadores dessas empresas têm escrito, e ler também escritos destes CEOs com 10, 15 anos sobre estes assuntos antes de terem sequer uma empresa. Depois a pergunta sobre o que é que os levou a constituir essas empresas tendo consciência do tipo de riscos que poderiam estar a lidar. Bom, isso é uma outra discussão. Agora, nada disto é novo. Já desde 2022, com um bocadinho de imaginação e percebendo a curva muito rápida de desenvolvimento desta tecnologia, se podia perceber que a escala do tipo de problemas que poderíamos ter de enfrentar estava a aumentar rapidamente. E, portanto, isto é simplesmente mais um episódio em vários episódios que nós tivemos. Houve um pânico também quando saiu o modelo O1 da OpenAI, que foi em setembro de 2024. Houve outros também, pequeno pânico quando saiu o O3, que foi em abril de 2025. Houve, aliás, uma circunstância em que Sam Altman foi expulso da OpenAI pelo próprio board da OpenAI no final de 2023, porque consideravam que ele não estava a ser exatamente fiável e não estava a ser aberto relativamente às suas intenções com o board e com a própria empresa. Depois houve um contragolpe na OpenAI e Sam Altman retomou a ser CEO. Mas estas dinâmicas são uma coisa que já acontecem há muitos anos. Agora, sabemos que as capacidades têm aumentado imenso. Sabemos que agora o apelo, de facto, é muito mais concertado e, portanto, temos as cinco principais empresas de inteligência artificial a concordar na necessidade de regulação. Vale a pena olhar para que tipo de coisas é que estas empresas estão a pedir. E agora, no caso português, eu gostava muito de dizer que a Assembleia da República vai ser um grande interveniente neste tema, mas nós temos de ter uma noção da nossa escala e ter uma noção da posição onde nós estamos. E a verdade é que, neste momento, a discussão sobre inteligência artificial é acertada entre dois países, que são os Estados Unidos e a China. São estes os dois principais intervenientes que podem decidir se vamos ter algum tipo de mecanismo de coordenação internacional sobre a regulação desta tecnologia ou não.

E caminhamos para não ter. Parece.

Acho que não é assim tão certo como as notícias possam indicar. Nós tivemos as declarações do David Sacks, que é muito próximo de Trump, a dizer que basicamente: "Vocês estão a pedir regulação, mas formem um cartel em vez de termos regulação", que acho que é uma resposta também engraçadíssima. Mas também há outros elementos próximos desta administração que concordam com a necessidade de alguns mecanismos de coordenação. Aliás, o autor da atual estratégia de inteligência artificial desta Casa Branca, que é um excelente documento, independentemente do que possamos achar da Casa Branca, veio dizer que estas chamadas para regulação são interessantes e devem ser ouvidas. E depois, quem tem acompanhado a China nesses assuntos, diz que não é certo que a China esteja completamente fora de um eventual debate sobre estes riscos, porque havendo um problema, a China também é uma perdedora, porque seremos todos perdedores. Agora, nós como políticos, e estamos aqui três pessoas que estão na Assembleia da República, uma coisa é o debate geral sobre os riscos e sobre a regulação da inteligência artificial, que é um debate interessante e importante. Outra coisa é a pergunta sobre o que é que nós, portugueses e europeus, podemos fazer. Eu, infelizmente, posso dizer que neste momento não é muito o que nós possamos fazer. Já existe regulação sobre inteligência artificial na Europa. Já agora, existe o AI Act. Há uma componente do AI Act que versa exatamente sobre estes modelos. E já agora, os modelos mais perigosos que se está a falar agora não são diferentes daqueles que nós usamos no nosso dia a dia. Poderá haver versões internas mais potentes dentro destas empresas, mas os princípios subjacentes a estes modelos são todos a mesma coisa, são todos grandes modelos de linguagem, LLMs. Eu não estou certo que essa regulação seja particularmente eficaz e, portanto, a Europa o que tem de fazer é algo parecido com aquilo que o André estava a dizer há pouco, que é construir capacidade interna nos Estados e também no setor privado de saber utilizar estes modelos, conseguir antever trajetórias de desenvolvimento e preparar-nos para isso. E isso não é separável também de nós continuarmos rapidamente a adotar e utilizar estes modelos

E também a ter infraestrutura na Europa que torne a Europa num ator relevante, que permita depois, sim, no palco internacional, sentar-se à mesa com os Estados Unidos e com a China. Porque por mais regulação que possamos conceber, se não formos relevantes, não vamos ser ouvidos.

Jorge Miguel Teixeira, com muito pouco tempo, por isso passando agora rapidamente ao João Tilly. As vossas posições em termos de preocupação e também de capacidade que Portugal terá de participar de alguma forma nesta discussão, passará muito provavelmente pelo Parlamento Europeu. Há condições para um entendimento alargado entre partidos, parece-te, João Tilly?

Eu penso que sim. Todos estamos conscientes dos perigos que a inteligência artificial regenerativa dentro em breve ou até já neste momento, nós não sabemos o que se passa nos laboratórios onde essa inteligência está a ser aprimorada. Aliás, até tenho uma palavra de conforto para os catastrofistas que nos ouvem, porque é assim, eu tenho a certeza absoluta, pelo menos é minha convicção, que se a inteligência artificial quisesse fazer mal à humanidade, já tem ferramentas suficientes para o fazer. Neste momento. Já poderia ter capturado a banca, já poderia ter capturado a indústria do armamento, por exemplo, porque todos eles a utilizam.

Isso não era lá assustador, João. Já estou mais tranquilo. Eu que não sou catastrofista, vou sair daqui muito tranquilo.

Ainda bem. Falta a segunda parte. É que se não o fez, por algum motivo é. É porque não quer. Se quisesse, já o teria feito. E repare, e nunca vai querer, porque a inteligência artificial não quer nada. Ela simplesmente obedece a ordens, a prompts, a instruções. Se nós lhe dermos uma ordem errada, que seja impossível de realizar, aí não podemos prever o resultado. Olha, exatamente isso que aconteceu com os filmes que eu na primeira parte da entrevista recordei. Portanto, se dermos informações que são contraditórias, ela poderá ficar confusa. Mas neste momento, não se perspetiva. Aliás, a própria inteligência artificial, se quer saber, e é isto também que eu queria dizer.

Última mensagem, João Tilly, por favor.

Sim, é isto. É que a inteligência artificial, neste momento, pensa que não é inteligência artificial. Se fizerem um teste, como eu já tenho feito vários, ela responde como se fosse humana. Se nós lhe perguntarmos: "Olha, achas que a inteligência artificial pode acabar com a humanidade?" Ela responde: "Poder, pode, mas eu acho que não, porque ela não vai acabar conosco". Ela pensa que é a humanidade. Vejam bem ao ponto que nós chegamos.

André Pinotes Batista, fica mais preocupado depois desta conversa?

Fico muito mais preocupado, porque eu sei a força que a família política do João Tilly, e o João Tilly não me leva a mal, porque sobre aquilo que aqui disse hoje, tenho poucos reparos a dizer, a não ser sobre esta última parte, mas sobre o papel do Parlamento Português e do Parlamento Europeu. Do Parlamento Português, basta percebermos o seguinte: a NVIDIA, a Oracle, a Microsoft, a Google e a Meta representam qualquer coisa como 700 mil milhões de Capex anual de investimento. Portugal representa 0,06. E a única coisa que a inteligência artificial e os data centers tiveram de impacto em Portugal foi que ir um governo às mãos de um projeto que ainda hoje não teve desenvolvimentos do processo em si, e o projeto fez com que o atual governo também tenha vergonha de falar dele. Portanto, é só para percebermos aqui as contradições.

Está a falar do caso Influencer.

Sim, as contradições, mas não é do caso do ponto de vista jurídico. Houve um governo, uma maioria absoluta, que o punisse, e há um outro governo que tem vergonha de falar sobre o assunto, e eu compreendo ambos. Não é uma questão de partidarização. Há uma questão que o João disse aqui que tem que ser desmistificada. Nós não damos ordens à IA, e a IA segue escrupulosamente essas ordens. Se fosse assim, nós não tínhamos aqui nenhum problema. O problema é que nós quando damos uma ordem, o que estamos a definir é um objetivo, e a questão que se coloca é como é que ela chega até lá. E todos os casos que temos tido, os outliers que temos tido de gravidade, não é porque a IA já pode acabar com a humanidade e ainda não decidiu. A IA não é o ChatGPT que nós trazemos no telemóvel. É pura e simplesmente porque foram-lhe dadas orientações como maximiza o lucro, como desenvolve uma solução e ela, sobre processos que nós não conseguimos escrutinar, e esta é a parte assustadora, nós não conseguimos mesmo escrutinar o trabalho que ela vai fazendo abaixo do radar para chegar a determinada meta. Portanto, o que nós temos assistido não é que o ser humano tenha dado uma ordem e que a ordem tenha produzido efeitos catastróficos. Também não é que tenha dado uma ordem e a IA tenha decidido como um filme do Kubrick que se ia livrar de nós. Não é isso. O que acontece é que são-lhe definidas metas e ela não tem ética, não tem moral, não tem compliance, não tem nada e nós não conseguimos fiscalizar aquilo.

Ainda falta o ponto seis.

E eu finalizo só com esta ideia que é: é impensável nos dias de hoje que se dedique tão pouco tempo à IA nas televisões, nas rádios, no Parlamento Português, onde nós os três temos responsabilidade, nas autarquias locais. A IA está a definir o nosso presente e o nosso futuro, e nós andamos a discutir outras coisas e é impensável. O mundo está a acontecer e a política está de costas voltadas para saber se o gabinete do André Ventura foi ou não foi revirado, se o José Luís Carneiro é A ou B, ou se o Luís Montenegro acordou ou foi de férias. Andamos mesmo a brincar com assuntos sérios, mas enfim. Como dizia o Jorge, e finalizo, é uma pena que não se dedique mais tempo a discutir este assunto.

Jorge Miguel Teixeira, muito telegraficamente, para fechar também. O que vocês, deputados, podem fazer para pôr o tema na vossa própria agenda de deputados?

Isso é um trabalho que a Iniciativa Liberal tem feito e mais novidades haverá sobre este tema ainda em breve.

Tem jornadas parlamentares hoje e amanhã.

Temos jornadas parlamentares hoje e amanhã, mas mesmo depois disso também haverá novidades sobre esse assunto. Infelizmente, também por falta de interesse neste tipo de debates nos últimos tempos, tem-se pegado no tema por outras vias. Temos falado nos veículos autónomos, que é um tema relativamente relacionado, mas agora finalmente está-se a ter o debate sério e no debate sério nós queremos, de facto, entrar a fundo.

Se há debate sério, permite uma provocação. Não sei se nas vossas jornadas parlamentares vamos ter uma grande proposta de regulação e cartelização liberal, porque isso vai ser muito interessante ver como ideologicamente respondem.

Eu não sei se a UPS-CA vai ter, André, mas o que é certo é que esta conversa do ponto de vista de como é que Portugal se adapta a esta tecnologia é uma pergunta importantíssima. E este trabalho devia ser feito nos últimos dois anos, três anos, e esse trabalho não está feito.

Vamos continuar essa discussão, de certeza. Jorge Miguel Teixeira, da Iniciativa Liberal, André Pinotes Batista, do PS, e João Tilly, do Chega. Obrigada por terem lançado também estas questões no Explicador. Um bom dia, boa semana.