O Algoritmo depois de Leão

Em 1891, Leão XIII publicou a Rerum Novarum, quando a Revolução Industrial estava a transformar o trabalho, a economia e as relações sociais. Cento e trinta e cinco anos depois, Leão XIV publica a Magnifica Humanitas, perante uma outra revolução: mais silenciosa, mais veloz e talvez ainda mais difícil de compreender. A revolução do algoritmo.

A comparação não é apenas uma curiosidade histórica. É, provavelmente, uma das melhores chaves para perceber o que está verdadeiramente em causa.

A Magnifica Humanitas não é, no essencial, uma encíclica sobre inteligência artificial. É uma encíclica sobre o ser humano diante de uma tecnologia que começa a transformar não apenas aquilo que fazemos, mas também a forma como pensamos, trabalhamos, comunicamos e tomamos decisões.

Antonio Spadaro escreveu no EL PAÍS que este é, em última análise, um documento sobre o ser humano escrito a partir do interior de uma revolução tecnológica. É uma leitura particularmente feliz e talvez seja precisamente por isso que o documento merece ser lido muito para além das fronteiras da Igreja.

Digo isto trabalhando na área tecnológica e sem sentir qualquer contradição.

Quem trabalha com tecnologia todos os dias sabe melhor do que ninguém aquilo que ela pode fazer. Sabe o tempo que pode poupar, os processos que pode simplificar, os serviços que pode melhorar e a capacidade que tem para transformar organizações inteiras.

Mas também sabe uma coisa igualmente importante: uma tecnologia pode ser extraordinariamente eficiente e, ainda assim, não produzir uma sociedade melhor.

É aqui que começa a verdadeira discussão.

Vivemos num tempo em que a palavra “inovação” adquiriu quase um estatuto religioso. Tudo aquilo que é novo parece necessariamente melhor. Tudo aquilo que pode ser automatizado parece necessariamente dever ser automatizado. E tudo aquilo que uma máquina consegue fazer mais depressa parece, por definição, uma tarefa que o ser humano deveria deixar de fazer.

É uma lógica perigosa.

A inteligência artificial não precisa de se tornar humana para transformar profundamente a humanidade. Basta que os seres humanos comecem a comportar-se como máquinas.

É esta inversão que o Papa Leão XIV nos obriga a encarar na Magnifica Humanitas.

Não deveríamos perguntar apenas até onde conseguiremos levar a inteligência artificial. Deveríamos perguntar até onde queremos levar a nossa própria sociedade.

Quando um algoritmo decide quem recebe crédito, quem é selecionado para uma entrevista, que informação aparece no nosso ecrã ou que conteúdos milhões de pessoas irão consumir, já não estamos perante uma simples ferramenta. Estamos perante uma forma de poder.

E é precisamente aqui que a reflexão de Leão XIV ganha uma dimensão política que ultrapassa largamente o debate religioso.

No Le Monde, Stéphane Lauer chamou a atenção para uma questão incómoda: talvez estejamos a assistir a uma transformação tecnológica que avança muito mais depressa do que a capacidade das nossas instituições para a enquadrar.

É uma observação que merece ser levada a sério, pois durante décadas, dissemos que a política deveria acompanhar a inovação. Hoje, talvez tenhamos de admitir que a inovação está a avançar muito mais depressa do que a capacidade da política para a acompanhar.

As empresas tecnológicas conseguem desenvolver, testar e lançar novos sistemas em meses. As democracias precisam de anos para construir legislação, negociar consensos e criar instituições capazes de fiscalizar esses mesmos sistemas.

O resultado é um desequilíbrio perigoso.

Quem possui os dados, os computadores, os modelos e o capital passa a possuir também uma parcela crescente da capacidade de definir o futuro.

E este talvez seja um dos pontos mais importantes da encíclica: a questão da inteligência artificial é, no fundo, uma questão sobre a distribuição do poder.

Fernando Schmidt, antigo subsecretário dos Negócios Estrangeiros do Chile, leva esta reflexão ainda mais longe ao analisar a dimensão internacional da encíclica. A inteligência artificial não está a ser desenvolvida num vazio político, mas no interior de uma competição entre Estados, empresas e grandes potências que procuram assegurar vantagens económicas, tecnológicas e estratégicas.

A velha disputa pelo petróleo, pelas rotas comerciais ou pelos territórios estratégicos começa a ganhar uma nova dimensão: dados, semicondutores, capacidade de computação e inteligência artificial.

O mundo pode estar a entrar numa nova corrida ao poder.

E, desta vez, a corrida não se trava apenas com tanques, aviões ou mísseis. Trava-se também com centros de dados, chips, algoritmos e talento.

É por isso que a tecnologia não pode ser pensada apenas como uma questão empresarial.

É uma questão política. É uma questão económica. É uma questão geopolítica.

Mas é, antes de tudo, uma questão humana.

A inteligência artificial pode escrever um texto em segundos. Pode analisar milhões de documentos. Pode encontrar padrões que nenhum ser humano conseguiria identificar. Pode acelerar a ciência, melhorar diagnósticos, tornar os serviços públicos mais eficientes, apoiar empresas e transformar a educação.

Seria absurdo negar tudo isto.

Mas uma sociedade não pode medir o seu progresso apenas por aquilo que consegue fazer. Tem também de perguntar aquilo que deve fazer.

Essa é uma pergunta que os algoritmos não conseguem responder.

Uma máquina pode calcular a opção mais eficiente. Não pode decidir, por si própria, o que é justo.

Pode prever comportamentos. Não pode assumir a responsabilidade pelas suas consequências.

Pode reproduzir a linguagem. Não conhece a experiência humana que dá significado às palavras.

Talvez por isso uma das distinções mais importantes que devemos preservar seja precisamente aquela entre inteligência e sabedoria.

Uma sociedade pode tornar-se extraordinariamente eficiente sem se tornar mais justa. Pode ser mais rápida sem ser mais humana. Pode produzir mais sem viver melhor.

E esta não é uma questão que diga respeito apenas à inteligência artificial. Diz respeito à forma como estamos a pensar o próprio progresso.

Estamos a construir sistemas cada vez mais capazes de produzir respostas enquanto, paradoxalmente, começamos a perder o hábito de fazer perguntas.

Aceitamos recomendações porque são personalizadas. Aceitamos decisões porque são baseadas em dados. Aceitamos conteúdos porque foram selecionados por algoritmos. Aceitamos opiniões porque uma máquina nos diz que são consensuais.

Pouco a pouco, podemos entregar às máquinas não apenas tarefas, mas pedaços da nossa autonomia.

E uma sociedade que delega progressivamente a capacidade de decidir corre o risco de descobrir, demasiado tarde, que também delegou a capacidade de pensar.

É por isso que a discussão sobre inteligência artificial não pode ficar confinada aos engenheiros, às empresas tecnológicas ou aos departamentos jurídicos.

É uma discussão civilizacional

Temos de decidir que tipo de economia queremos construir. Que tipo de trabalho queremos preservar. Que educação queremos oferecer aos nossos filhos. Que direitos queremos proteger. Que decisões podem ser automatizadas e quais devem continuar necessariamente nas mãos de pessoas.

E, sobretudo, temos de decidir quem controla aquilo que começa a controlar tantas dimensões da nossa vida.

Esta é talvez uma das perguntas políticas mais importantes da próxima década.

Porque o verdadeiro risco não é simplesmente a existência de máquinas mais inteligentes.

É a concentração de máquinas inteligentes nas mãos de muito poucos.

Quando uma tecnologia com capacidade para reorganizar economias, transformar mercados de trabalho e determinar o acesso à informação fica concentrada num número reduzido de empresas e Estados, a questão deixa de ser tecnológica e passa a ser democrática.

Schmidt tem razão ao colocar esta discussão no plano internacional: uma humanidade dividida entre potências tecnológicas dominantes e países consumidores de tecnologia poderá criar uma nova forma de dependência.

Talvez o colonialismo do futuro não seja feito através da ocupação de territórios. Talvez seja feito através da dependência tecnológica.

E é aqui que a Europa tem uma responsabilidade particular.

Não pode limitar-se a ser um grande mercado onde outros desenvolvem a tecnologia que nós consumimos. Precisa de capacidade própria, investigação própria, talento próprio e, sobretudo, uma visão política própria.

Mas também não pode cair na tentação de responder à tecnologia com medo.

A tecnologia não é o inimigo. A inteligência artificial não é o inimigo. A inovação não é o inimigo.

O verdadeiro desafio é garantir que nenhuma destas forças se torna indiferente à pessoa humana.

É aqui que acredito que existe espaço para uma posição equilibrada.

Uma posição que não seja tecnofóbica, mas também não seja ingénua.

Uma posição que reconheça que a tecnologia pode libertar pessoas de tarefas repetitivas, tornar o Estado mais eficiente, melhorar empresas, democratizar o acesso à informação e criar oportunidades que hoje ainda nem conseguimos antecipar.

Mas que reconheça também que nenhuma dessas conquistas vale a pena se, no processo, começarmos a tratar pessoas como números, cidadãos como dados, trabalhadores como custos e eficiência como sinónimo de progresso.

No século XIX, a grande questão era saber se a máquina iria libertar o trabalhador ou transformá-lo numa peça da máquina industrial.

No século XXI, a pergunta é mais subtil: se as máquinas começarem a pensar, decidir e criar por nós, seremos nós capazes de continuar a pensar, decidir e criar por nós próprios?

Esta é uma pergunta que não diz respeito apenas aos católicos. Diz respeito a todos.

Aos políticos que legislam. Aos empresários que investem. Aos engenheiros que desenvolvem. Aos professores que educam. Aos dirigentes públicos que modernizam. E a cada um de nós, sempre que escolhemos entre fazer algo por nós próprios ou simplesmente deixar que uma máquina o faça.

A inteligência artificial pode ser uma das maiores conquistas da humanidade.

Mas isso só será verdade se continuar a ser uma conquista da humanidade e não uma conquista sobre a humanidade.

Talvez seja essa a razão pela qual o título escolhido por Leão XIV é tão feliz: Magnifica Humanitas.

Não “magnífica tecnologia”. Não “magnífica inteligência”. Não “magnífica eficiência”.

Magnífica humanidade.

Porque, no fim, a questão mais importante da inteligência artificial talvez não seja saber quão inteligentes conseguirão ser as máquinas. É saber quão humanos conseguiremos nós continuar a ser.