A OpenAI afirma que seus agentes de IA resolveram em 88 horas um antigo problema matemático envolvendo as equações de Navier–Stokes. A organização responsável por conceder um prêmio por uma solução afirmou que o problema parecia ter sido resolvido, observando, porém, que o trabalho precisaria de tempo para ser avaliado.
Horas antes do anúncio da OpenAI, o matemático da Universidade de Nova York Tristan Buckmaster levantou preocupações sobre a possibilidade de a pesquisa de sua equipe independente ter chegado à empresa. Buckmaster e Levent Alpöge, um matemático que também trabalha para a Anthropic, estavam investigando o mesmo problema e mantinham rascunhos na ferramenta de programação Codex, da OpenAI. Buckmaster disse que Alpöge havia ouvido que notícias sobre o progresso deles tinham “chegado” à OpenAI, mas não explicou como. Ele questionou se o trabalho deles poderia ter sido usado, ressaltando que não estava acusando ninguém de má conduta.
A OpenAI afirmou que ninguém na empresa, fosse uma pessoa ou um sistema de IA, teve acesso ao trabalho da equipe antes de ele ser publicado. Inicialmente, a empresa disse que não podia descartar a possibilidade de dados anonimizados de uso de produtos terem ajudado a aprimorar seus modelos, embora considerasse isso improvável. Dias depois, afirmou que as solicitações de Buckmaster no Codex durante os dois meses anteriores ao anúncio não poderiam ter influenciado o sistema.
O episódio chamou a atenção para uma preocupação mais ampla: a IA pode enfraquecer a confiança na forma como as descobertas científicas são produzidas e avaliadas. Além das questões de originalidade e precisão, pesquisadores temem que erros gerados por IA possam se tornar difíceis de distinguir de resultados confiáveis.
A IA já demonstrou um potencial científico significativo. O AlphaFold, da Google DeepMind, previu as estruturas de 200 milhões de proteínas em um ano, uma tarefa que, segundo o relato, teria levado centenas de milhões de anos com experimentos de laboratório. A DeepMind disponibilizou os resultados gratuitamente para pesquisadores, e o diretor do projeto e seu cientista principal receberam o Prêmio Nobel de Química.
Mas as alegações sobre descobertas geradas por IA também provocaram críticas. A DeepMind afirmou que seu modelo identificou mais de dois milhões de novas estruturas cristalinas, das quais cerca de 380 mil foram consideradas promissoras o suficiente para serem produzidas em laboratório. Os químicos Anthony Cheetham e Ram Seshadri, da Universidade da Califórnia, examinaram uma amostra aleatória e disseram não ter encontrado compostos genuinamente inovadores, descrevendo muitos como pequenas adaptações de materiais conhecidos. Eles não disseram que o método estava errado, mas argumentaram que as descobertas exigiam uma análise e uma validação mais rigorosas. A DeepMind rejeitou as críticas, afirmando ter verificado a originalidade dos compostos e que pequenas alterações em materiais conhecidos ainda podem produzir substâncias úteis.
Outra preocupação é o volume de artigos de baixa qualidade e de referências fabricadas que as ferramentas de IA podem gerar. Em uma análise de mais de um milhão de artigos biomédicos, o cientista da computação Dmitry Kobak, da Universidade de Ghent, encontrou indícios de uso de IA em quase 90% dos artigos até dezembro do ano abrangido. As ferramentas de detecção de IA, porém, são imperfeitas, e essa constatação não comprova que todos os artigos sinalizados tenham sido escritos com IA. Kobak alertou que vieses nos modelos de linguagem podem se disseminar pela literatura científica.
A revisão por pares também pode ser afetada. Uma análise liderada por Stanford, que examinou pareceres enviados a quatro importantes conferências de ciência da computação, concluiu que até 17% haviam sido substancialmente alterados por modelos de linguagem. Separadamente, pesquisadores de Cornell descobriram que bibliografias geradas por IA incluíam estudos inexistentes; segundo o relatório, cerca de 147 mil desses trabalhos foram citados no ano passado.
Pesquisas falsas ou pouco confiáveis podem levar cientistas a perseguir caminhos sem saída, desperdiçar recursos públicos e atrasar os benefícios de trabalhos legítimos, incluindo medicamentos e tecnologias sustentáveis. As editoras estão respondendo com verificações adicionais. A equipe de integridade científica da Elsevier desenvolveu cerca de 100 indicadores para ajudar a identificar artigos que precisam de uma análise humana mais atenta. As revistas da Nature proíbem imagens geradas por IA e recomendam que os revisores não insiram manuscritos em sistemas de IA. A plataforma de preprints arXiv suspende por um ano pesquisadores que enviam referências fabricadas.
Pesquisadores também alertam que sistemas de IA podem deixar passar descobertas valiosas ao tratar resultados inesperados como anomalias. A penicilina, a radioatividade e os pulsares foram descobertos por meio de observações que poderiam ter sido descartadas. Pushmeet Kohli, da DeepMind, argumenta que a IA não deve ser abandonada, mas afirma que a supervisão humana é essencial: os pesquisadores precisam entender o que um sistema fez e assumir a responsabilidade por suas conclusões.
Há exemplos de IA apoiando a pesquisa quando usada sob esse tipo de supervisão. Andrea Pauli, do Vienna BioCenter, passou quase uma década estudando como o espermatozoide entra no óvulo. Seu laboratório usou IA como parte de um trabalho que identificou uma proteína na superfície dos óvulos de peixe-zebra, sugerindo um mecanismo de entrada do espermatozoide semelhante a chave e fechadura.
A disputa sobre o resultado matemático continua sem solução no relato, mas ilustra o que está em jogo com o papel cada vez maior da IA na pesquisa: além de ajudar cientistas a avançar, a tecnologia levanta questões sobre atribuição, verificação e confiança.
Fontes: Folha Ciência.