La IA que escribe papers científicos: ¿milagro o fake absoluto?

Mira, colega, últimamente estamos viendo cómo la inteligencia artificial se mete en todos los charcos. Y ahora le ha dado por escribir artículos científicos. Pero ojo, que no todo es tan bonito como parece. Un equipo de investigadores ha soltado un sistema llamado Prompt-to-Paper, que promete generar manuscritos de bioinformática de principio a fin. Suena guay, ¿verdad? Pues resulta que los sistemas que había hasta ahora tenían tres problemas gordos que te cagas.

Primero, las afirmaciones que soltaban no estaban ancladas a literatura verificable. O sea, que la IA podía decir que un experimento demostró no sé qué, pero sin poder señalar el artículo original donde se había publicado. Vamos, como si tu colega te cuenta un rumor y no sabes si es verdad o lo ha inventado en el bar.

Segundo, y esto es más heavy: los resultados experimentales solían ser falsos. No es que la IA se equivocara, es que directamente los inventaba. Imagínate que le pides que analice un gen y te suelta que ha hecho un experimento que nunca ha ocurrido. Eso no es ciencia, es ciencia ficción.

Y tercero, no había un marco estandarizado para evaluar si estos textos generados por IA tenían calidad o eran basura. Cada cual usaba su propio criterio, y al final era un caos. No podías comparar un sistema con otro porque no había reglas claras.

Ahora, este nuevo sistema, Prompt-to-Paper, intenta solucionar esto. Dicen que sus afirmaciones están basadas en literatura real, que ejecuta experimentos de verdad (bueno, simulaciones, pero con datos verificables) y que han creado un sistema de evaluación multidimensional. Suena prometedor, pero yo me pregunto: ¿hasta qué punto podemos confiar en una máquina para hacer ciencia? Porque si algo hemos aprendido es que la IA es muy lista, pero también muy dada a alucinar cuando no tiene datos claros.

Además, esto plantea una pregunta incómoda: si las máquinas escriben papers, ¿qué hacemos con los científicos? ¿Nos quedamos sin curro? No creo, pero sí que tendremos que cambiar nuestra forma de trabajar. Menos escribir y más verificar, supongo.

La noticia está bien, pero no te fíes de todo lo que leas. La IA avanza, pero aún le queda mucho para ser fiable al 100%. Y mientras tanto, nosotros, los humanos, seguimos siendo los que ponemos el cerebro.

Según ha adelantado el medio arXiv AI.