Cuando la IA alucina cambios imposibles: llega PACE para poner orden

Vale, colega, siéntate que te voy a contar una cosa que me tiene bastante flipado. Resulta que los sistemas de inteligencia artificial llevan tiempo intentando explicar por qué toman ciertas decisiones. La técnica estrella para esto son las explicaciones contrafactuales, que básicamente te dicen: "oye, si cambias esto y esto, la máquina te daría otra respuesta". Suena guay, ¿verdad? Pues tiene un problema gordo: muchas veces te sueltan cambios que son una locura, imposibles de hacer en la vida real.

Imagínate que un algoritmo te deniega un préstamo y te dice: "para que te lo den, necesitas ganar 10.000 euros más al mes y tener tres propiedades". Vale, muy bonito, pero si pudiera ganar 10k más al mes no estaría pidiendo un préstamo, ¿no? Pues eso es lo que pasa con muchos de estos sistemas. Generan alternativas que son técnicamente correctas pero humanamente absurdas. Y aquí es donde entra el nuevo invento: PACE.

PACE no es un nuevo ritmo musical, es un marco neuro-simbólico que han presentado en arXiv. La gracia está en que mezcla lo mejor de dos mundos: la capacidad de aprendizaje de las redes neuronales con la lógica estructurada de los sistemas simbólicos. Traducción: la máquina no solo aprende de datos, sino que también entiende reglas básicas de sentido común. Por ejemplo, sabe que no puedes cambiar tu edad, tu sexo o tu código postal de la noche a la mañana. Así que cuando genera explicaciones, se ciñe a lo que es factible.

Y ojo, que esto no es solo para bancos. Piensa en diagnósticos médicos, en recursos humanos o incluso en recomendaciones de series. Si un sistema te dice que para que te guste más una peli tienes que verla tres veces seguidas, es una mierda de explicación. Con PACE, las recomendaciones son acciones que realmente puedes llevar a cabo. No es magia, es ponerle sentido común a la inteligencia artificial, algo que debería ser obligatorio desde el principio.

Lo mejor de todo es que no se queda en teoría. Los tests que han hecho muestran que las explicaciones generadas son más plausibles y, sobre todo, más útiles para tomar decisiones reales. Porque al final, de eso va esto: de que la tecnología nos ayude, no de que nos maree con opciones imposibles. Así que ya sabes, si alguna vez un algoritmo te sugiere que te compres un yate para que te aprueben una hipoteca, es que no usa PACE.

Segun ha adelantado el medio arXiv AI.