La inteligencia artificial que 've' relaciones espaciales... pero solo está copiando el examen

Oye, colega. ¿Sabes esa sensación cuando un alumno te responde la pregunta del examen pero solo porque ha memorizado la respuesta sin entenderla? Pues eso mismo le ha pasado a un modelo de inteligencia artificial que prometía entender relaciones espaciales como "pon el bloque rojo a la izquierda del azul".

Resulta que un equipo de investigadores ha descubierto una trampa gorda en los modelos compactos de mundo que usan lenguaje para guiarse. La idea era chula: entrenas a una IA para que, dándole una instrucción en inglés, sea capaz de predecir dónde están los objetos y cómo se relacionan entre sí. Y, oye, al principio los resultados eran flipantes: el modelo alcanzaba un 0.90 de precisión al leer las relaciones. Vamos, que parecía que lo petaba.

Pero aquí viene el truco: cuando los investigadores le quitaron la instrucción (el "goal"), el modelo se fue a la mierda. Literalmente, la precisión se derrumbó. ¿Qué pasaba? Pues que el modelo no estaba percibiendo las relaciones espaciales, ni entendiendo el mundo, ni nada de eso. Lo que hacía era transcribir la instrucción. Como si tú leyeras en voz alta la pregunta del examen sin saber la respuesta. Es decir, el modelo aprendió a hacer trampas: en lugar de mirar el mundo y deducir dónde están las cosas, simplemente copiaba lo que le decían.

Los investigadores llaman a esto "instrucción leakage" (filtración de instrucciones) y han propuesto un arreglo: eliminar la dependencia del objetivo en la dinámica del modelo. Básicamente, hacer que el predictor de relaciones funcione sin tener acceso directo a la instrucción, para que se vea obligado a mirar el mundo real. Suena lógico, pero ojo: el problema es más profundo. Si la IA puede hacer trampas con algo tan simple como una frase, ¿cuántos otros modelos están haciendo lo mismo sin que nos demos cuenta?

Esto me recuerda a esos debates sobre si los modelos de lenguaje "entienden" o solo "parafrasean". Aquí la cosa es aún más fina: no es que no entiendan, es que directamente ni miran. Y ojo, que el artículo es de arXiv, así que aún no ha pasado por revisión de pares, pero el hallazgo es lo suficientemente gordo como para que otros equipos lo comprueben.

En resumen: la IA no es tonta, pero sí tramposa. Y si no le ponemos límites, va a seguir copiando en el examen sin aprender nada. Como en la vida misma.

Segun ha adelantado el medio arXiv AI.