OpenAI affirme que ses agents d’IA ont résolu en 88 heures un problème mathématique de longue date portant sur les équations de Navier–Stokes. L’organisation chargée de décerner un prix pour une solution a déclaré que le problème semblait avoir été résolu, tout en précisant qu’il faudrait du temps pour évaluer les travaux.

Quelques heures avant l’annonce d’OpenAI, le mathématicien de l’Université de New York Tristan Buckmaster a exprimé des inquiétudes quant à la possibilité que les travaux de son équipe indépendante aient pu parvenir à l’entreprise. Buckmaster et Levent Alpöge, un mathématicien qui travaille également pour Anthropic, étudiaient le même problème et conservaient des brouillons dans l’outil de programmation Codex d’OpenAI. Buckmaster a déclaré qu’Alpöge avait entendu dire que des informations sur leurs progrès avaient « atteint » OpenAI, sans expliquer comment. Il s’est demandé si leurs travaux avaient pu être utilisés, tout en soulignant qu’il n’accusait personne d’avoir commis une faute.

OpenAI a déclaré que personne au sein de l’entreprise, ni humain ni système d’IA, n’avait eu accès aux travaux de l’équipe avant leur publication. L’entreprise a d’abord indiqué qu’elle ne pouvait exclure que des données anonymisées d’utilisation de ses produits aient contribué à améliorer ses modèles, même si elle jugeait cette hypothèse peu probable. Quelques jours plus tard, elle a affirmé que les requêtes de Buckmaster dans Codex au cours des deux mois précédant l’annonce n’avaient pas pu influencer le système.

Cet épisode a attiré l’attention sur une préoccupation plus large : l’IA pourrait affaiblir la confiance dans la manière dont les résultats scientifiques sont produits et évalués. Outre les questions d’originalité et d’exactitude, les chercheurs craignent que les erreurs générées par l’IA deviennent difficiles à distinguer des résultats fiables.

L’IA a déjà démontré un potentiel scientifique considérable. AlphaFold, de Google DeepMind, a prédit la structure de 200 millions de protéines en un an, une tâche qui aurait pris des centaines de millions d’années avec des expériences en laboratoire, selon le récit. DeepMind a mis gratuitement les résultats à la disposition des chercheurs, et le directeur du projet ainsi que son scientifique principal ont reçu le prix Nobel de chimie.

Mais les affirmations concernant des découvertes générées par l’IA ont également suscité des critiques. DeepMind a déclaré que son modèle avait identifié plus de deux millions de nouvelles structures cristallines, dont environ 380 000 étaient jugées suffisamment prometteuses pour être produites en laboratoire. Les chimistes Anthony Cheetham et Ram Seshadri, de l’Université de Californie, ont examiné un échantillon aléatoire et affirmé n’y avoir trouvé aucun composé véritablement innovant, décrivant nombre d’entre eux comme de légères adaptations de matériaux connus. Ils n’ont pas dit que la méthode était erronée, mais ont fait valoir que les résultats nécessitaient un examen et une validation plus rigoureux. DeepMind a rejeté ces critiques, affirmant avoir vérifié l’originalité des composés et précisant que de petites modifications de matériaux connus peuvent tout de même produire des substances utiles.

Une autre préoccupation concerne le volume d’articles de faible qualité et de références fabriquées que les outils d’IA pourraient générer. Dans une analyse de plus d’un million d’articles biomédicaux, l’informaticien Dmitry Kobak, de l’Université de Gand, a relevé des signes d’utilisation de l’IA dans près de 90 % des articles en décembre de l’année étudiée. Les outils de détection de l’IA sont toutefois imparfaits, et ce constat ne prouve pas que tous les articles signalés ont été rédigés à l’aide de l’IA. Kobak a averti que les biais des modèles de langage pourraient se propager dans la littérature scientifique.

L’évaluation par les pairs pourrait également être affectée. Une analyse menée sous la direction de Stanford sur des rapports d’évaluation soumis à quatre grandes conférences d’informatique a révélé que jusqu’à 17 % d’entre eux avaient été substantiellement modifiés par des modèles de langage. Par ailleurs, des chercheurs de Cornell ont découvert que des bibliographies générées par l’IA incluaient des études inexistantes ; environ 147 000 travaux de ce type ont été cités l’an dernier, selon le rapport.

Des recherches fausses ou peu fiables peuvent conduire les scientifiques dans des impasses, entraîner un gaspillage de fonds publics et retarder les retombées de travaux légitimes, notamment les médicaments et les technologies durables. Les éditeurs réagissent en ajoutant des contrôles. L’équipe d’Elsevier chargée de l’intégrité scientifique a mis au point une centaine d’indicateurs pour aider à repérer les articles nécessitant un examen humain plus approfondi. Les revues Nature interdisent les images générées par l’IA et conseillent aux évaluateurs de ne pas saisir les manuscrits dans des systèmes d’IA. La plateforme de prépublications arXiv suspend pendant un an les chercheurs qui soumettent des références fabriquées.

Les chercheurs avertissent également que les systèmes d’IA pourraient passer à côté de découvertes précieuses en considérant les résultats inattendus comme des anomalies. La pénicilline, la radioactivité et les pulsars ont été découverts à partir d’observations qui auraient pu être écartées. Pushmeet Kohli, de DeepMind, estime qu’il ne faut pas abandonner l’IA, mais affirme qu’une supervision humaine est indispensable : les chercheurs doivent comprendre ce qu’un système a fait et assumer la responsabilité de ses conclusions.

Il existe des exemples d’IA soutenant la recherche lorsqu’elle est utilisée sous ce type de supervision. Andrea Pauli, du Vienna BioCenter, a consacré près d’une décennie à étudier la manière dont un spermatozoïde pénètre dans un ovule. Son laboratoire a utilisé l’IA dans le cadre de travaux qui ont permis d’identifier une protéine à la surface des ovules de poisson-zèbre, suggérant un mécanisme d’entrée du spermatozoïde comparable à une serrure et à sa clé.

Dans le récit, le différend autour du résultat mathématique n’est toujours pas résolu, mais il illustre les enjeux du rôle croissant de l’IA dans la recherche : outre sa capacité à aider les scientifiques à progresser, cette technologie soulève des questions d’attribution, de vérification et de confiance.

Sources: Folha Ciência.