¿Los feedbacks molan o solo es postureo?

Mira, te voy a contar una cosa que me ha volado la cabeza. Resulta que un grupo de científicos se ha puesto a investigar si cuando le dices a una IA "oye, esto está mal, hazlo mejor" realmente sirve para algo, o si es solo una ilusión óptica. Porque, seamos sinceros, a veces parece que los modelos de lenguaje mejoran porque les das feedback, pero igual solo están haciendo trampa: repitiendo el intento, corrigiendo el formato o simplemente dedicando más tiempo a pensar. Y eso, colega, no es lo mismo que aprender de verdad.

El estudio, que han hecho con un protocolo de profesor-alumno bien controlado, ha usado cuatro benchmarks de la hostia: Omni-MATH, Codeforces, BBEH Linguini y ARC-AGI1. La idea era separar el grano de la paja. Porque en entornos de múltiples turnos, donde la IA puede responder varias veces, una mayor precisión final puede deberse al feedback útil, pero también a que el modelo ha resampleado, ha corregido el formato o ha aprovechado más tiempo de computación. Y eso, amigo, es un lío para saber si el feedback mola o es postureo.

Lo que han hecho estos cracks es diseñar un experimento donde un modelo "profesor" da feedback a un modelo "alumno", y luego comparan si el alumno mejora más que cuando solo repite el intento sin feedback. Y los resultados, aunque no te los voy a destripar todos aquí, apuntan a que el feedback sí que tiene un efecto real, pero no siempre. Depende del tipo de tarea y de cómo se dé el feedback. Por ejemplo, en problemas de matemáticas o de código, el feedback parece más útil que en tareas más abiertas. Pero ojo, que también descubrieron que a veces el feedback no es más que una muleta: el modelo mejora porque el feedback le da pistas sobre el formato, no sobre el contenido.

En resumen, que esto no es tan sencillo como pensar que cualquier feedback vale. La clave está en que el feedback sea sustancial, no solo un parche. Porque si no, al final, estamos perdiendo el tiempo. Y yo, como periodista digital, te digo que esto es importante para entender cómo vamos a interactuar con las IAs en el futuro. Porque si no sabemos si realmente aprenden de nosotros, entonces ¿para qué les damos feedback? Para que parezca que mejoran, pero en realidad solo están haciendo trampa. Vamos, como un estudiante que te dice que ha estudiado pero luego saca un 5 raspado. Así no, colega.

Segun ha adelantado el medio arXiv AI.