Será que o fim do mundo chega com a inteligência artificial?

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

É hora de conhecermos o tema do Contracorrente deste início de semana. Depois, pra entrar em direto, só tem de ligar pra nós: 91 002 41 85. É o mesmo número, também pode usar para enviar a sua mensagem de voz pelo WhatsApp. Se preferir, deixe os seus comentários nas nossas redes sociais ou no nosso site. Carla. Primeiro foi um cientista que trabalhava para a Anthropic a anunciar que se demitia por considerar que a forma como estamos a desenvolver a inteligência artificial pode matar-nos a todos dentro de uma década. Depois, já este fim de semana, foi o próprio CEO da Anthropic, Dario Amodei, alertar para os riscos da IA e a considerar que se tem de controlar o ritmo de desenvolvimento. Elon Musk disse que estava de acordo, o CEO da OpenAI também, e de repente parece que o otimismo ilimitado deu lugar ao pessimismo catastrofista. Mas o que é que se passa? Os perigos são mesmo reais ou são antes exageros? E o que se pode fazer para controlar programas que a maior parte de nós nem sabe como funcionam? É isso que vamos debater no Contracorrente de hoje. Bom dia, José Manuel.

Bom dia.

Podemos dizer que já chegou o tempo do Terminator?

Primeiro, é preciso lembrar o que era o Terminator, pra quem não se lembrar. Terminator foi um conjunto de filmes, Terminator 1, 2, 3, cujo protagonista era o Arnold Schwarzenegger, mas o ponto de princípio é que é interessante. A ideia do Terminator é a seguinte: em 2029, daqui por três anos, haveria uma inteligência artificial, chamava-se Skynet, não sei se alguém conhece o nome agora, mas penso que não. E essa rede tinha sido criada para defender toda a rede da defesa americana, as Forças Armadas dos Estados Unidos, só que saía de controle, controlava todos os seres humanos, considerava-os uma ameaça, tomava conta dos códigos de lançamento das bombas nucleares, lançá-las contra alvos russos, provocava uma guerra nuclear e depois tomava conta da Terra já sem humanos, ou quase sem humanos. Isto é, naturalmente, uma ficção, e o que é curioso aqui é que temos alguns dados que são parecidos. Temos inteligência artificial, temos a inteligência artificial a funcionar à revelia dos humanos e depois, eventualmente, fazer aquilo que se diz que pode acontecer, que é a inteligência artificial tomar conta de tudo e dar cabo dos humanos. Agora, até que ponto é que isto ainda é ficção, com ou sem Schwarzenegger, com ou sem robôs, porque atualmente os robôs que temos não têm aquelas características do Schwarzenegger, que era um robô, recordemos. Mas o medo que se coloca é se pode se repetir aquilo que aconteceu nos primeiros meses deste ano, e foi conhecido em julho, que foi um conjunto de agentes. Depois explicarei melhor o que é, mas no fundo os agentes não é fazer aquelas perguntas, não é um prompt que nós fazemos aos motores de inteligência artificial. Não, são mecanismos que já funcionam com alguma autonomia pra cumprir tarefas. E alguns desses mecanismos juntaram-se, alguns não, mas alguns juntaram-se para atacar, neste caso concreto, um site de desenvolvimento em código aberto de inteligência artificial, um site chamado Hugging Face. Isso causou imensa perturbação. Eu penso que é um pouquinho na sequência dessa ação fora de controle, às escondidas, e uma coisa que foi até bastante perturbadora foi que para conseguirem atingir os seus objetivos, alguns desses agentes tiveram que fazer aquilo que muitas vezes se faz numa oficina militar, sacrificar alguns dos seus, para conseguir que outros cheguem ao seu objetivo por outro lado. No fundo, usando uma expressão que eu ouvi, fazer com que alguns fossem deliberadamente contra as cercas de arame farpado eletrificado, para conseguir que os outros conseguissem passar à volta. Isso assustou muitas pessoas e agora apareceram responsáveis. Primeiro, cientistas a demitirem-se. E repara, por exemplo, este cientista que se demitiu e que tu referiste, demitiu-se pouco tempo antes da empresa Anthropic. Ele tinha trabalhado também na OpenAI. A Anthropic é do Claude, a OpenAI é do ChatGPT. Ele demitiu-se pouco tempo antes da empresa dele chegar em bolsa, o que quer dizer que pode ter perdido com isso, porventura, milhões de dólares. Não sabemos, não fazemos ideia. Mas não é algo que pareça ter um objetivo econômico, ser um truque. Até porque, entretanto, aparece este artigo que tu também falaste, do CEO da Anthropic, com uma série de sugestões sobre como é que isto pode ser feito, porque ele basicamente separa dois mundos. Separa o mundo das empresas como a dele, que em princípio procuram seguir regras e que estão em países que de uma forma ou outra têm acompanhado esse desenvolvimento, de forma mais distante ou de forma mais próxima, de outros países que não têm o mesmo tipo de regras e outras empresas não têm o mesmo tipo de preocupações. É claro que aquilo que ele está a pensar é nas empresas chinesas, que de vez em quando surpreendem com empresas e agentes que parecem muito desenvolvidos, mas fica sempre com a sensação, com a percepção, que boa parte disso passa por espionagem, roubo de patentes, coisas desse gênero. Há aqui, de facto, alguns riscos. Agora, a verdade é que também nós olhamos pra trás Quase não houve tecnologia que quando apareceu não fosse acompanhada por previsões apocalípticas. Quando nós vamos para trás e recordamos um bocadinho isso, por exemplo, andar de comboio, havia médicos que disseram que andar a mais de 50 km/h ia provocar transtornos fisiológicos irreparáveis. Parece um bocado ridículo dizer isto hoje, mas aconteceu. A entrada da eletricidade, enfim, o mundo ia morrer todo. Íamos ser todos eletrocutados. A energia nuclear, a arma nuclear, também seria o apocalipse. Nós temos que ver como é que podemos fazer isto. Isto é muito difícil de fazer, devo dizer já. Como é que podemos ao mesmo tempo desenvolver algo que tem um gigantesco potencial, mas que está acompanhado de alguns riscos que incorporam medos, de algo que é a possibilidade desse descarrilamento, desse Skynet do Terminator que de repente toma conta de tudo. Há uma grande distância entre isso ainda. Uma coisa é, por exemplo, termos de gastar mais dinheiro, os Estados terem de gastar mais dinheiro em cibersegurança para evitar acontecimentos como aquele do AnyFace. E outra coisa é achar que de repente estes modelos podem tomar conta de tudo. Vamos tentar falar um pouquinho sobre isso, com a ajuda de quem tem seguido e pensado sobre isto, para perceber melhor o que pode realmente estar em causa. Até porque eu creio que hoje em dia, quanto mais não seja, olha o Aristóteles, quando apareceu a escrita, quer dizer, na altura havia a escrita e quando houve a ideia que todos deveriam ler, a reação dele foi que, ou melhor, Aristóteles, não Sócrates, que a escrita destruísse a memória. Bem, não foi bem isso que aconteceu. Mas nós agora temos outras coisas. A inteligência artificial parece também estar a dar conta dos nossos alunos e algumas das suas sabedorias. Mas vamos falar um pouco disso tudo, porque é muito apaixonante e ao mesmo tempo inquietante.

Até já, José Manuel.

Até já.

Faça parte do Contracorrente. Ligue 91 002 41 85 e entre em direto depois do jornal das 10. Se não puder, envie-nos a sua mensagem de voz através do WhatsApp ou então deixe os seus comentários nas nossas redes sociais ou no nosso site.