OpenAI afirma que sus agentes de IA resolvieron en 88 horas un antiguo problema matemático relacionado con las ecuaciones de Navier–Stokes. La organización responsable de conceder un premio por una solución dijo que el problema parecía haberse resuelto, aunque señaló que necesitaría tiempo para evaluar el trabajo.

Horas antes del anuncio de OpenAI, el matemático Tristan Buckmaster, de la Universidad de Nueva York, expresó su preocupación por la posibilidad de que la investigación de su equipo independiente hubiera llegado a la empresa. Buckmaster y Levent Alpöge, matemático que también trabaja para Anthropic, habían estado investigando el mismo problema y guardaban borradores en la herramienta de programación Codex, de OpenAI. Buckmaster dijo que Alpöge había oído que las noticias sobre sus avances habían «llegado» a OpenAI, pero no explicó cómo. Se preguntó si la empresa podría haber utilizado su trabajo, al tiempo que recalcó que no acusaba a nadie de haber actuado mal.

OpenAI dijo que nadie en la empresa, ni una persona ni un sistema de IA, había tenido acceso al trabajo del equipo antes de su publicación. Al principio, la empresa dijo que no podía descartar que los datos anonimizados sobre el uso de sus productos hubieran contribuido a mejorar sus modelos, aunque consideraba improbable que así fuera. Días después, afirmó que las instrucciones que Buckmaster había introducido en Codex durante los dos meses previos al anuncio no podían haber influido en el sistema.

El episodio ha llamado la atención sobre una preocupación más amplia: la IA podría debilitar la confianza en la manera en que se producen y evalúan los hallazgos científicos. Además de las dudas sobre la originalidad y la exactitud, a los investigadores les preocupa que los errores generados por IA lleguen a ser difíciles de distinguir de los resultados fiables.

La IA ya ha demostrado un importante potencial científico. AlphaFold, de Google DeepMind, predijo las estructuras de 200 millones de proteínas en un año, una tarea que, según el relato, habría llevado cientos de millones de años mediante experimentos de laboratorio. DeepMind puso los resultados a libre disposición de los investigadores, y el director del proyecto y su científico principal recibieron el Premio Nobel de Química.

Sin embargo, las afirmaciones sobre descubrimientos generados por IA también han suscitado críticas. DeepMind dijo que su modelo había identificado más de dos millones de nuevas estructuras cristalinas, de las cuales unas 380.000 se consideraron lo bastante prometedoras como para producirlas en un laboratorio. Los químicos Anthony Cheetham y Ram Seshadri, de la Universidad de California, examinaron una muestra aleatoria y dijeron que no habían encontrado ningún compuesto realmente innovador; describieron muchos de ellos como modificaciones menores de materiales conocidos. No dijeron que el método fuera erróneo, pero sostuvieron que los hallazgos necesitaban una revisión y una validación más rigurosas. DeepMind rechazó las críticas y afirmó que había comprobado la originalidad de los compuestos y que pequeños cambios en materiales conocidos también pueden producir sustancias útiles.

Otra preocupación es el volumen de artículos de baja calidad y referencias inventadas que pueden generar las herramientas de IA. En un análisis de más de un millón de artículos biomédicos, el científico informático Dmitry Kobak, de la Universidad de Gante, encontró indicios de uso de IA en casi el 90 % de los artículos para diciembre del año analizado. Sin embargo, las herramientas de detección de IA son imperfectas, y el hallazgo no demuestra que todos los artículos señalados se hubieran escrito con IA. Kobak advirtió que los sesgos de los modelos lingüísticos podrían propagarse por la literatura científica.

La revisión por pares también podría verse afectada. Un análisis dirigido por Stanford de los informes de revisión presentados a cuatro importantes congresos de informática encontró que hasta el 17 % habían sido modificados sustancialmente por modelos lingüísticos. Por separado, investigadores de Cornell descubrieron que las bibliografías generadas por IA incluían estudios inexistentes; según el informe, el año pasado se citaron unas 147.000 obras de ese tipo.

Las investigaciones falsas o poco fiables pueden llevar a los científicos a perseguir callejones sin salida, malgastar fondos públicos y retrasar los beneficios del trabajo legítimo, incluidos los medicamentos y las tecnologías sostenibles. Las editoriales están respondiendo con controles adicionales. El equipo de Elsevier dedicado a la integridad científica ha desarrollado alrededor de 100 indicadores para ayudar a identificar artículos que necesitan una revisión humana más minuciosa. Las revistas de Nature prohíben las imágenes generadas por IA y recomiendan a los revisores que no introduzcan manuscritos en sistemas de IA. La plataforma de prepublicaciones arXiv suspende durante un año a los investigadores que envían referencias inventadas.

Los investigadores también advierten que los sistemas de IA podrían pasar por alto hallazgos valiosos al tratar los resultados inesperados como anomalías. La penicilina, la radiactividad y los púlsares se descubrieron a partir de observaciones que podrían haberse descartado. Pushmeet Kohli, de DeepMind, sostiene que no se debe abandonar la IA, pero afirma que la supervisión humana es esencial: los investigadores deben comprender lo que ha hecho un sistema y asumir la responsabilidad de sus conclusiones.

Hay ejemplos de IA que apoya la investigación cuando se utiliza bajo ese tipo de supervisión. Andrea Pauli, del Vienna BioCenter, pasó casi una década estudiando cómo entra el espermatozoide en el óvulo. Su laboratorio utilizó IA como parte de una investigación que identificó una proteína en la superficie de los óvulos de pez cebra, lo que apunta a un mecanismo de entrada del espermatozoide similar al de una llave y una cerradura.

Según el relato, la disputa sobre el resultado matemático sigue sin resolverse, pero ilustra lo que está en juego a medida que crece el papel de la IA en la investigación: además de ayudar a los científicos a avanzar, esta tecnología plantea preguntas sobre atribución, verificación y confianza.

Fuentes: Folha Ciência.