ODYSSEY: El pastel de capas matemático que quiere que las IAs no te mientan

Mira, colega, te voy a contar una movida que parece de esas que flipas en la barra del bar con un par de birras. Resulta que un grupo de mentes pensantes ha soltado en arXiv un ladrillo que se llama ODYSSEY. No, no es el videojuego ese de los ochenta, es un framework matemático para construir modelos de inteligencia artificial que, y esto es lo gordo, sean verificables y preserven la verdad local. Suena a chiste, ¿verdad? Pues no lo es.

La idea es simple pero la han vestido de gala con terminología de categorías y sheaves, que son como esas estructuras matemáticas que a los que les gusta el álgebra abstracta les ponen cachondos. Básicamente, ODYSSEY propone que construyas tu modelo de IA como si fueses un puto arquitecto: con bloques llamados "foundries". Estos bloques no son piezas de Lego cualquiera; cada uno define un contexto local, cómo se representa la información ahí, cómo se relaciona con otros bloques, cómo se pegan, qué hacer si algo no encaja, cómo actualizarlo y hasta cómo lo ve un humano. Vamos, un planning completo.

Lo flipante es que aquí la clave es la verdad local. En lugar de tener un modelo enorme que se cree que lo sabe todo y te suelta una trola como una casa, ODYSSEY divide el conocimiento en trocitos pequeños y manejables. Cada uno es responsable de su verdad en su contexto. Y luego, con unas reglas de pegado bien definidas, conectas esos trocitos para formar un modelo global. Pero ojo, que si hay contradicciones entre contextos, el sistema tiene políticas de obstrucción para lidiar con el marrón. Es como tener un montón de expertos en una habitación que no se ponen de acuerdo, pero en lugar de matarse, siguen un manual para resolver el conflicto.

Y luego está lo de la verificación. Aquí no vale el "confía en mí, soy una IA". Con ODYSSEY, puedes demostrar que el modelo preserva la verdad local en cada paso. Es como tener un notario matemático que te sella cada afirmación. Para los que estamos hasta el gorro de que ChatGPT invente citas de libros que no existen, esto es música celestial.

Ahora, siendo sincero, esto es muy teórico. No esperes que mañana tu móvil tenga un modelo ODYSSEY. Pero el enfoque es interesante porque ataca el problema de raíz: cómo construir IAs que no alucinen. Porque al final, si no podemos confiar en lo que nos dicen, ¿para qué coño las queremos?

Segun ha adelantado el medio arXiv AI.