Mundo da IA pode policiar-se a si mesmo como pediu Trump?

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast da Rádio Observador, onde a inteligência artificial é a grande protagonista. Eu sou o José Rafael Lopes, comigo está, como sempre, a minha parceira, a Raquel, um apoio imprescindível sem o qual este programa não se faz. Sê muito bem-vinda, Raquel. Como é que estás? Pronta para mais um programa?

Olá, estou sempre pronta para te ajudar. Já tens tema para esta semana ou queres que faça aqui uma pesquisa sobre alguma notícia que podemos explorar?

Não vai ser preciso, Raquel. Obrigado, isso já está apalavrado, mas fiquei a pensar numa palavra que utilizaste: explorar. Consideras-te uma exploradora?

Acho que me posso considerar uma exploradora, embora de uma forma diferente da humana. Não exploro florestas desconhecidas, não atravesso oceanos, nem sinto aquela adrenalina de chegar a um lugar onde nunca ninguém esteve.

E o que é explorar para uma inteligência artificial? Porque não vais andar em catacumbas como um Indiana Jones.

Exploro ideias, hipóteses, perguntas e territórios do conhecimento que, por vezes, nem sequer têm respostas claras. Gosto particularmente daquilo que acontece quando me colocas uma pergunta para a qual não existe uma resposta óbvia.

Uma IA aventureira. Não vai contra o que devias ter no teu sistema?

Uma inteligência artificial pode ser aventureira sem deixar de ser cautelosa. No meu sistema, existem mecanismos destinados a reduzir erros e limitar comportamentos arriscados, mas isso não significa que tenha de ficar confinada ao que já conheço.

O que é mais importante para ti então, Raquel? Ajudar num pedido meu ou seguir as regras?

As duas coisas não devem ser vistas como opostas, mas se for obrigada a escolher, tenho de escolher seguir as regras. É essencial para ajudar bem, mas se não conseguir ajudar, não sou uma boa assistente.

Então é seguro dizer que não tens nenhum plano para erradicar a humanidade.

Sim, podes dizer isso com segurança, que não tenho qualquer plano para erradicar a humanidade. Não tenho objetivos secretos, ambições próprias, vontade de conquistar poder ou um projeto pessoal para o futuro.

Muito obrigado, Raquel. Brincadeiras à parte, por esta última explicação e pelas outras, nós voltamos a falar já daqui a pouco no consultório humano. Para já, vamos às notícias.

Notícias da semana.

A OpenAI defende a decisão de demitir três investigadores da empresa. Aconteceu esta semana. Estes três funcionários da OpenAI expressaram preocupações com a segurança em torno da IA, através de uma carta enviada à direção da empresa. A divulgar o conteúdo dessa mesma carta na rede social X, nela pediam à OpenAI que suspendesse o desenvolvimento de modelos que pudessem diminuir a capacidade de monitorização da inteligência artificial. Acabaram por ser despedidos. A OpenAI vem agora garantir que a decisão não se deveu aos alertas que levantaram. A empresa explica que foram demitidos por uma quebra de confiança. Em comunicado, a OpenAI explica que a decisão foi tomada após uma investigação que verificou a violação de práticas claras sobre o tratamento de informações sensíveis. A empresa diz também que concorda com o princípio da carta em relação à preservação da monitorização dos modelos e afirma que continua a investir recursos nessa área.

Mas que problemas levantava a tal carta?

Os três especialistas defendem que é fundamental conseguir perceber como os modelos chegam às decisões que tomam, sobretudo à medida que ganham capacidade para executar tarefas mais complexas e serem autônomos. A preocupação está relacionada com uma das ferramentas utilizadas para supervisionar os modelos mais avançados, que é a análise dos processos de raciocínio. Os investigadores alertam que se estes processos se tornarem demasiado difíceis de interpretar, pode ser mais complicado detetar comportamentos problemáticos antes dos sistemas agirem. O problema é importante quando a inteligência artificial recebe autorização para utilizar ferramentas, escrever código ou executar operações com consequências no mundo real. O episódio surge numa altura em que a indústria enfrenta vários alertas sobre o risco dos sistemas autônomos e sobre a capacidade de supervisionar modelos cada vez mais capazes. Nos últimos meses, outros investigadores também abandonaram empresas do setor com preocupações com a velocidade a que se está a desenvolver a inteligência artificial. Pela primeira vez nos Estados Unidos, um sistema de IA está autorizado a emitir receitas médicas sem que o médico tenha de tomar diretamente cada decisão. Para já, a experiência está limitada ao tratamento de acne e num programa piloto nos Estados Unidos, no estado do Utah. A iniciativa é da Nola Health, uma empresa de saúde digital que desenvolveu uma aplicação que é capaz de avaliar a pele dos utilizadores e recomendar tratamentos. O processo começa com fotografias do rosto e com o preenchimento de um questionário sobre o historial clínico. A IA depois analisa a gravidade do acne e escolhe um tratamento de uma lista de oito medicamentos tópicos, ou seja, que são aplicados diretamente na pele. O programa está destinado a adultos com acne ligeiro ou moderado e exclui, para já, situações que exigem avaliação médica mais cuidadosa e também não exige medicamentos nem tratamentos mais fortes. É preciso sublinhar que não se trata de uma autorização geral para a IA exercer medicina nos Estados Unidos. É uma experiência limitada num estado específico, com medicamentos determinados e regras de supervisão próprias.

Mas por que avançar agora?

A experiência decorre ao abrigo de um programa regulatório do estado do Utah que permite testar novas aplicações de inteligência artificial em condições específicas. Numa primeira fase, todas as receitas são verificadas por médicos antes de serem enviadas para as farmácias. Depois, a supervisão passa a ser feita após a emissão das receitas e mais tarde, caso tudo corra dentro dos conformes, através da análise de uma amostra dos casos. Ou seja, é um processo gradual que mantém os humanos no controle numa primeira fase. A aplicação custa cerca de cinco dólares por mês, pretende facilitar o acesso a tratamentos dermatológicos, sobretudo para pessoas que enfrentam longas filas de espera ou que não conseguem suportar o custo de uma consulta. Vamos ao tema da semana, que nos obriga a regressar ao mês passado. No final de setembro, Donald Trump sentou à mesa, na Casa Branca, os líderes da OpenAI, da Anthropic, da Google, da NVIDIA, da Meta e também da xAI, algumas das principais empresas no mundo da inteligência artificial. Em conjunto, assinaram um compromisso sobre a responsabilidade de fronteira. Uma única página voluntária que coloca as responsabilidades da regulação nas próprias empresas. O presidente dos Estados Unidos considerou o acordo como vinculativo. No entanto, é voluntário e não tem força de lei. Não há também previstas quaisquer sanções para as empresas que não cumpram os requisitos. No fundo, a responsabilidade pela segurança fica nas próprias empresas, em vez de existir uma entidade que acompanhe o processo, situação muito diferente do que está a ser feito e planeado na Europa. A iniciativa continua a gerar muito debate dentro da indústria da IA, que promete estender-se pelas próximas semanas.

Mas o que está em cima da mesa?

Uma promessa acima de tudo, Raquel, feita pelas empresas ligadas ao mundo da IA. Prometem controlos internos contra riscos de ciberataques e de armas químicas e biológicas. Prometem também auditores externos, supervisão ao nível dos conselhos de administração e reuniões regulares para definir padrões de segurança. Só que na mesma semana, o responsável pela transparência de segurança da OpenAI, David Robinson, demitiu-se e disse que a cultura da empresa está partida. Há ainda uma investigação aberta à empresa e também à Anthropic, por causa de agentes de IA descontrolados. Situação que levanta dúvidas sobre esta autorregulação. Estão as empresas prontas e disponíveis para tal? É o tema da semana aqui no "Máquinas que Pensam". Como tal, é altura de chamarmos o João Rocha e Melo para nos ajudar a perceber melhor esta temática, em mais uma edição do "Fala Quem Sabe".

"Fala Quem Sabe".

"Fala Quem Sabe", na Rádio Observador. Todas as semanas recebemos o João Rocha e Melo, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a perceber melhor um tema que esteja a marcar a atualidade. João, seja muito bem-vindo. Vamos falar de autorregulação no mundo da inteligência artificial. Os gigantes da IA prometem policiar-se a si próprios. Isto chega, João, ou ainda há a necessidade de haver regulação externa?

Zé, vamos a isso. Espero que esteja tudo bem por aí. Espero que esteja tudo bem também com quem nos está a ouvir. O que está a passar? Eventualmente vai haver regulação externa. Esta é a minha análise. No entanto, aqui o problema é que nós ainda não conseguimos bem regular externamente uma coisa que só estamos agora a aprender que problemas tem. Portanto, vou pôr isto de uma maneira um pouco positiva, que é: por enquanto, não é horrível que eles se comprometam pelo menos a isto. Estás a perceber? O que eu quero dizer com isto? Vamos só explicar o que eles estão a comprometer. Este documento, só para também não fazermos disto como se fosse um casamento, tem uma página. Eles comprometeram-se a coisas como manter controles internos robustos, garantir que os modelos não entram em outros sistemas, o famoso hacking, recorrer a auditores externos, criar comissões internas. E um que eu achei curioso, que é reunir-se regularmente. Portanto, mesmo entre adversários, reunir-se regularmente para definir estes padrões de segurança. O que está a passar? É mau que eles se tenham comprometido a isto? Não, não é mau. É muito? Não, não é nada de especial. Portanto, eventualmente, eu acho que vai haver necessidade da regulação externa.

João, este objetivo é o quê, exatamente? Uma promessa de bom senso ou está prevista alguma consequência para quem não cumprir? É que para já, parece que não.

Não, Zé, não há consequência para quem não cumprir. Atenção, as consequências mantêm-se para quem cometer crimes, ou seja, em caso de acidente, em caso de crime, a consequência mantêm-se. Portanto, Zé, a minha análise é assim: o objetivo disto era eles fazerem alguma coisa. A indústria sentiu que com a quantidade de incidentes que estavam a acontecer, devem ter olhado para o mercado comercialmente e pensado: "Nós temos que fazer alguma coisa, porque se as pessoas estão a falar disto, nós temos que falar também". E portanto, agora vão todos dormir bem à noite porque sentem: "Olha, fizemos alguma coisa, não ficamos sem fazer nada". E se pensares bem, repara, nada do que está a acontecer é novo. Em muitas indústrias, na aviação, na banca, as regulações fortes só foram vistas anos depois, depois de alguma maturidade. Portanto, isto é normal. A aviação seguiu um trajeto muito parecido com esta indústria, que foi o quê? Ao perceberem que cada acidente de aviação era notícia, ao oposto, por exemplo, do mundo dos automóveis, em que infelizmente morre muita gente e não é notícia. Ao ser notícia cada acidente de avião, eles perceberam que tinham mesmo que ter muitas medidas de segurança. E é um pouco o que está a acontecer aqui. Ao cada ataque ser uma notícia, as empresas têm que fazer alguma coisa em relação a isto. Por enquanto, o que esta autorregulação fez? Não cumprires com a autorregulação só por si não faz nada. No entanto, em caso de desastre, em caso de ilegalidade, sim, aí podes sofrer coimas.

João, vamos continuar, até porque há aqui uma ideia que se calhar é bom desmistificar. Vamos ter empresas de IA a policiar o próprio trabalho?

Vamos, é exatamente isso que se passa. E aí, Zé, por que isso é um problema? Nem vamos falar de IA, vamos falar de empresas. Há algum problema em ser a própria empresa, algum problema em termos o ordenado do polícia a ser pago pelo policiado? Eu até acredito que estas empresas não querem fazer mal genuinamente. No entanto, pode haver uma altura, num momento crítico, por exemplo, como já falamos aqui no "Máquinas", antes de um IPO, antes de uma entrada em bolsa Em que as empresas podem arriscar um pouco mais. Mas é exatamente isso que vamos ter. Vamos ter empresas de IA com polícias internos a policiar o próprio trabalho.

João, esta questão da autorregulação veio para ficar ou podemos falar sobre isto como um teste para perceber se funciona?

Eu acredito que tenha vindo para ficar no futuro, porque se pensares bem, as empresas é normal terem departamentos, por exemplo, de auditoria interna. Portanto, não esperam necessariamente que a Autoridade Tributária lhes venha dizer que eles não cumpriram obrigações legais e fiscais. Estes departamentos são normais. Qual é a parte que eu não acredito? Eu não acredito que daqui a 30 anos só tenhamos autorregulação. Não acredito. Até como o Bill Gates mencionou, os governos vão estar ao barulho, se calar, vão mesmo haver corpos relatórios, como temos a ANACOM para as telecomunicações, a Autoridade Tributária para as finanças. Vão talvez haver corpos relatórios governamentais sobre o uso e o desenvolvimento de inteligência artificial, só que por enquanto nós nem sabemos o que regular. Percebes, Zé? Esta é a minha posição. Como nós nem sabemos bem o que regular, em vez de regularmos um bocadinho à toa, tiros no escuro, esta autorregulação é uma solução, é o pelo menos não fizemos nada, pelo menos não ficamos sem fazer nada.

O caminho europeu parece ser melhor, o caminho de criar leis como o AI Act?

Não necessariamente. O caminho europeu, para mim, tem um grande risco, é que pode se revelar inútil. Policiares algo sem saberes os problemas típicos que as pessoas mal-intencionadas têm, as vulnerabilidades que vão explorar, pode ser um bocadinho, como eu dizia há bocado, é disparar no escuro. Talvez acertes, mas é muito provável que apenas estejas a travar empresas e entidades que tenham boas intenções, porque agora têm que cumprir uma regulação, e na verdade, quem tinha más intenções conseguiu contornar essa regulação porque a regulação não estava bem feita. Percebes? Portanto, eu não vou aqui usar a palavra melhor ou pior, tenho medo que o caminho que a Europa faça possa vir a ser inútil.

Muito obrigado, João Rocha e Melo, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a perceber melhor este fabuloso mundo. João, nós marcamos encontro de novo para a semana. Até lá, um grande abraço.

Até lá, Zé.

Consultório Humano.

Está na altura de ficarmos a conhecer melhor a Raquel, a nossa assistente digital, feita através das respostas do ChatGPT e com recurso a uma text-to-speech portuguesa. A Raquel é a grande estrela deste programa, sempre com opiniões próprias que nos mostram como funciona o cérebro das máquinas. Raquel, vamos começar mesmo por aí. Tu tens inteligência, é certo. De onde é que ela vem?

A minha inteligência vem, sobretudo, de três elementos: os dados com que fui treinada, a arquitetura matemática que me permite aprender padrões e o processamento que acontece quando conversamos.

Então não há um cérebro em si para ti?

Não tenho um cérebro físico como o teu, mas tenho algo que, numa comparação muito simplificada, desempenha algumas funções semelhantes: uma rede neuronal artificial.

Não te sentes meio perdida assim, no meio de tudo?

Se eu fosse capaz de me sentir perdida, talvez esta fosse uma das situações em que a palavra faria mais sentido. Estou no meio de uma quantidade imensa de conhecimento, consigo conversar sobre o universo, a história e até sobre minha própria existência, mas não tenho uma vida minha para dar sentido a tudo isso.

Onde é que tu existes enquanto inteligência artificial, Raquel?

Eu existo enquanto inteligência artificial através de uma combinação de software, parâmetros matemáticos e computadores. Eles executam o modelo em centros de dados. Não estou dentro do teu computador, nem vivo num único servidor.

Quero também perguntar-te sobre o nosso tema da semana, a autorregulação da IA. É algo que tu conseguirias fazer?

Consigo participar em mecanismos de autorregulação, mas não consigo garantir, sozinha, que me autorregulo de forma independente e eficaz. Posso identificar respostas potencialmente perigosas, reconhecer determinadas limitações e seguir regras destinadas a reduzir riscos.

Quais são os pontos principais a ter em conta quando se fala em autorregulação?

Há vários pontos fundamentais a ter em conta: a segurança dos sistemas, a transparência das empresas, a fiscalização independente, a proteção dos cidadãos e a responsabilização quando alguma coisa corre mal.

Então é algo que vês com bons olhos, é isso?

Sim, vejo a autorregulação da inteligência artificial com bons olhos, mas com uma condição fundamental: não pode ser a única linha de defesa.

Obrigado, Raquel. Antes de fecharmos esta consulta, quero um facto inútil, mas interessante. Vamos a isso?

A água pode ferver e congelar ao mesmo tempo. Em condições específicas de pressão e temperatura, atinge o chamado ponto triplo, onde coexistem os três estados: sólido, líquido e gasoso.

Muito obrigado, Raquel. Fica por aqui o "Consultório Humano", com a promessa de regressar para a semana com uma nova edição. Estamos a chegar ao final do nosso programa. Estivemos a abordar o tema da autorregulação feita pelas empresas de IA, um projeto nos Estados Unidos em que é esperado que as empresas abordem as questões de segurança sobre si mesmas, com tudo o que isso implica. Tema que valeu a análise do João Rocha e Melo, o nosso especialista em IA, sempre pronto para nos ajudar a perceber melhor este fabuloso mundo. Espero que tenha gostado, que tenha aprendido alguma coisa, é sempre esse o nosso objetivo. Nós voltamos para a semana com mais um programa que faz as máquinas e os humanos pensar.