A IA pode superar a ciência? Pesquisadores preveem um futuro sombrio

O avanço dos agentes de inteligência artificial (IA), sistemas capazes de executar tarefas com diferentes níveis de autonomia, tem provocado questionamentos entre cientistas sobre o futuro da pesquisa acadêmica. O debate ganhou força após pesquisadores relatarem que empresas de tecnologia anunciaram descobertas relacionadas a estudos nos quais trabalhavam havia meses ou anos.

Em um intervalo de cinco semanas, pelo menos dois casos envolveram cientistas que desenvolviam pesquisas ainda não publicadas quando empresas de IA divulgaram resultados sobre os mesmos temas. Os episódios levantaram dúvidas sobre a possibilidade de informações compartilhadas com ferramentas comerciais serem utilizadas no desenvolvimento dos modelos.

Parte da comunidade científica passou a restringir o uso dessas plataformas para evitar a exposição de dados inéditos. As empresas envolvidas negam que as pesquisas tenham sido incorporadas aos processos de treinamento de seus sistemas.

Para Geoffrey Irving, cientista-chefe da Resolution, organização dedicada à segurança da inteligência artificial na Califórnia, a capacidade dos agentes de IA de resolver problemas científicos tende a ampliar a competição com pesquisadores humanos.

Segundo Irving, os cientistas poderão ser ultrapassados não necessariamente pelo compartilhamento de seus trabalhos, mas pela capacidade dos próprios sistemas de inteligência artificial de encontrar soluções de maneira autônoma.

IA da OpenAI provoca questionamentos após anúncio sobre problema matemático

Um dos episódios ocorreu em setembro, quando o matemático Tristan Buckmaster, da Universidade de Nova York, divulgou avanços em uma pesquisa sobre o problema de Navier-Stokes, questão matemática relacionada ao comportamento dos fluidos.

Em 7 de setembro, Buckmaster publicou na internet informações sobre o trabalho desenvolvido em parceria com Levent Alpöge, matemático da Anthropic que participava da pesquisa como projeto pessoal.

Os dois cientistas estudavam o problema havia aproximadamente um ano. Na publicação, Buckmaster também apresentou um artigo com a solução de uma versão simplificada da questão.

No dia seguinte, 8 de setembro, a OpenAI anunciou que seus agentes de inteligência artificial haviam encontrado uma solução para o problema. A divulgação levou Buckmaster a questionar publicamente a origem dos resultados apresentados pela empresa.

O matemático levantou a hipótese de que informações inseridas por ele e Alpöge em ferramentas da OpenAI pudessem ter sido utilizadas no treinamento dos modelos responsáveis pela descoberta.

A empresa rejeitou essa possibilidade. Em comunicado, informou que uma investigação interna concluiu que as instruções enviadas por Buckmaster nos dois meses anteriores ao anúncio não poderiam ter influenciado o sistema, inclusive por meio de treinamento.

A OpenAI também afirmou que seus pesquisadores e agentes de IA não tiveram acesso ao trabalho dos matemáticos antes da divulgação pública dos resultados.

Anthropic enfrenta dúvidas sobre descoberta relacionada ao DNA de vírus

Outro caso envolveu a Anthropic, desenvolvedora do Claude, modelo de inteligência artificial utilizado para geração de textos, programação e análise de informações.

Duas semanas após o episódio com a OpenAI, a empresa anunciou que agentes baseados no Claude haviam identificado padrões de segmentos repetidos de DNA em determinados vírus.

Segundo a Anthropic, essas sequências apresentavam semelhanças com estruturas encontradas em sistemas CRISPR, tecnologia de edição genética que permite realizar modificações específicas no material genético.

Após a divulgação, Mario Rodríguez Mestre, doutorando em biologia computacional na Universidade de Copenhague, relatou ao jornal The New York Times que pesquisava padrões semelhantes havia vários anos.

O cientista afirmou que utilizava frequentemente o Claude durante seus estudos, mas ainda não havia publicado os resultados da pesquisa.

Mestre questionou se informações compartilhadas por sua equipe com as ferramentas da Anthropic poderiam ter sido incorporadas aos dados utilizados para desenvolver o modelo.

Em resposta ao jornal, a empresa declarou que o Claude não havia sido treinado com transcrições de conversas de usuários.

Cientistas restringem uso de IA para proteger pesquisas não publicadas

Os episódios levaram pesquisadores a rever a maneira como compartilham informações com sistemas comerciais de inteligência artificial.

Sandra Laurentino, especialista em epigenética reprodutiva da Universidade de Münster, na Alemanha, afirmou que passou a limitar o uso dessas ferramentas após as controvérsias.

Atualmente, a cientista utiliza inteligência artificial apenas para identificar problemas em códigos de programação. Antes de inserir as informações nas plataformas, substitui nomes de parâmetros e variáveis por identificações genéricas.

A medida busca impedir que os sistemas recebam detalhes sobre os experimentos desenvolvidos em seu laboratório.

Laurentino afirmou que já adotava precauções no uso de IA, mas os episódios recentes aumentaram sua preocupação com a exposição de informações científicas.

Samuel Mehr, pesquisador de cognição auditiva da Universidade de Auckland, na Nova Zelândia, também adotou restrições ao uso de modelos comerciais.

O cientista criou uma política interna para seu laboratório que proíbe estudantes de inserir informações protegidas em grandes modelos de linguagem (LLMs), sistemas de IA treinados para processar e produzir conteúdo textual.

O documento também recomenda cautela no uso dessas ferramentas durante as diferentes etapas de uma pesquisa científica.

Mehr afirmou que o compartilhamento de informações inéditas com empresas externas representa um risco à propriedade intelectual dos pesquisadores, especialmente quando não há clareza sobre a utilização posterior dos dados.

As preocupações relatadas pelos cientistas envolvem tanto a possibilidade de acesso a informações não publicadas quanto a capacidade dos agentes de IA de desenvolver pesquisas semelhantes de forma independente. Nos dois episódios, OpenAI e Anthropic negaram que dados privados dos pesquisadores tenham sido utilizados para treinar os modelos envolvidos nas descobertas.