El árbol de la verdad: cómo una IA intenta parar los pies a las fake news que ella misma genera

Mira, colega, esto de la desinformación se está yendo de madre. Ya no es solo el cuñao del bar soltando bulos sobre la vacuna, ahora las máquinas se han apuntado al juego sucio. Y lo peor es que las propias IAs, que deberían salvarnos, están siendo envenenadas por contenido falso que ellas mismas ayudan a viralizar. Pero un grupo de investigadores ha dicho: 'hasta aquí'. Y han creado algo que suena a chiste de informáticos: el Árbol de la Evidencia.

Vamos a ver, que me explico. Resulta que ahora existe una técnica llamada GEO (Generative Engine Optimization) que es como el SEO pero en esteroides. En lugar de colar páginas web falsas en Google, lo que hace es intoxicar los datos que las IAs usan para responder. Así que cuando le preguntas a ChatGPT algo como '¿Es verdad que los aliens construyeron las pirámides?', la máquina te suelta una respuesta elaborada basada en basura. Una locura.

Pues bien, el ToE (Tree of Evidence) viene a ser el antidoto. En lugar de creerse todo lo que le echan, este sistema construye un árbol jerárquico de pruebas. Imagínate un detective que no para hasta encontrar la fuente original, contrasta con papers, noticias fiables y bases de datos, y luego te dice: 'esto es verdad, esto es mentira y esto es dudoso'. Y encima te explica por qué. Nada de cajas negras misteriosas.

Lo que mola del enfoque es que no se queda en una sola fuente. El ToE va recogiendo evidencias de sitios distintos, las cruza, las compara, y si algo no cuadra, lo marca. Es como tener a un periodista de investigación trabajando 24/7. Y ojo, que esto no es teoría. El paper detalla cómo lo han probado con casos reales de fake news y ha funcionado de puta madre.

Ahora, la pregunta del millón: ¿esto va a acabar con los bulos? Pues no, pero al menos le pone las cosas difíciles a los que se dedican a intoxicar. Porque mientras unos se dedican a crear desinformación con IA, otros usan la misma tecnología para desenmascararla. Es el puto ouroboros digital. Y mientras tanto, nosotros, los mortales, intentando no tragarnos cualquier meme que nos llegue por WhatsApp.

Al final, la solución no es solo tecnológica. También necesita que nosotros, los usuarios, dejemos de compartir sin leer. Pero mientras eso llega, que existan sistemas como el ToE es un respiro. Al menos alguien está poniendo orden en el caos.

Segun ha adelantado el medio arXiv AI.