La gobernanza de los bots: cuando los algoritmos se sientan a negociar

Mira, tío, te voy a contar una movida que suena a ciencia ficción pero que es más real que la vida misma. Resulta que un grupo de investigadores ha soltado un paper en arXiv donde se meten de lleno en cómo cojones se gobiernan los protocolos de inteligencia artificial. Y no hablo de gobernanza de empresa, eh, hablo de cómo los propios algoritmos, los agentes de IA, se ponen de acuerdo entre ellos para funcionar juntos. Es como si los robots tuvieran su propio parlamento, pero sin corbatas ni discursos vacíos.

El invento es una pipa de análisis que usa LLMs —esos modelos de lenguaje que flipas— para escudriñar cómo se toman las decisiones en este nuevo mundo digital. La han probado con dos estándares de interoperabilidad: el ERC-8, que es un protocolo para que los agentes de IA se entiendan entre sí, como si fueran colegas que hablan el mismo idioma. Y lo hacen a lo grande: usando anotaciones automáticas, modelos de temas neuronales y análisis de redes multicapa. Vamos, que no es una tontería de fin de semana.

Lo que me mola del asunto es que se centran en algo que nadie mira: las estructuras de poder socio-técnicas. Porque, seamos sinceros, cuando montas un sistema de IA que decide por sí mismo, alguien tiene que poner las reglas del juego. Y no, no vale con que el programador de turno decida desde su garaje. Esto va de cómo se negocian los estándares, quién tiene voz y quién no, y cómo se evita que unos pocos se lleven el gato al agua. Es como el juego de tronos de los algoritmos, pero sin dragones.

El tema de la gobernanza en IA es un coñazo para muchos, pero es clave. Porque si no controlamos cómo se organizan estos bichos, acabaremos con un caos de protocolos que no se hablan entre sí, como si cada uno fuera de una galaxia distinta. Y eso, colega, no interesa a nadie. Así que este paper viene a poner orden en el desorden, aunque sea desde la teoría. Pero ojo, que la teoría es el primer paso para que luego los ingenieros se pongan las pilas.

Al final, lo que nos están diciendo es que necesitamos herramientas para entender cómo se gobierna la infraestructura de IA, y que los propios LLMs pueden ayudarnos a hacerlo. Es como si los algoritmos se analizaran a sí mismos. ¿Paradójico? Un huevo. ¿Necesario? También. Porque si no, nos va a pillar el toro.

Segun ha adelantado el medio arXiv AI.