La paradoja de los debates entre IAs: ¿están copiando nuestros defectos humanos?

Vale, colega, siéntate que te cuento una cosa que me ha volado la cabeza. Resulta que los científicos están metidos en un lío muy gordo con esos sistemas de inteligencia artificial que se ponen a hablar entre ellos para llegar a una respuesta, como si fueran un grupo de colegas discutiendo en un bar. Lo llaman "deliberación multi-agente" y suena muy fancy, pero el otro día me topé con un estudio de arXiv que le da la vuelta a todo.

Resulta que estos sistemas, que se supone que son la leche para mejorar la precisión y el razonamiento, tienen un problema de cojones: nadie ha parado a modelar cómo coño funcionan realmente. Y cuando lo hacen, se dan cuenta de que los muñecos no son tan listos como pensábamos. Resulta que estos debates entre IAs se parecen un montón a cómo los humanos tomamos decisiones en grupo. Y no es para bien, precisamente.

Mira, los científicos han tirado de modelos clásicos de dinámica de opinión, esos que explican cómo nos influimos los unos a los otros. Hay dos grandes: el modelo DeGroot, que básicamente dice que todos terminamos pensando igual porque nos copiamos como loros, y el Friedkin-Johnsen, que es un poco más realista porque admite que cada uno tiene su opinión interna y no se deja arrastrar del todo. Pues bien, las IAs en esos debates multi-agente se comportan exactamente igual que nosotros: se dejan llevar por el grupo, por el efecto rebaño, pero también tienen su propia chispa interna, su "creencia" particular.

Y aquí está la gracia: los modelos clásicos no capturan bien esa parte interna. Así que los investigadores están intentando entender cómo se mezcla la presión social digital con lo que la IA "cree" de verdad. Porque, seamos honestos, si estas máquinas están replicando nuestros sesgos más tontos, como el de seguir a la mayoría aunque esté equivocada, estamos jodidos. No estamos creando un sistema más inteligente, estamos creando un espejo de nuestras peores manadas.

La conclusión es que estos debates entre IAs son un campo de pruebas cojonudo para entender cómo se forman las opiniones, pero también un aviso: si no controlamos cómo se influyen entre ellas, podemos acabar con respuestas que no son más que el ruido de la mayoría, no la verdad. Y eso, en un mundo donde ya delegamos decisiones importantes a estas máquinas, es para mearse y no echar gota.

Segun ha adelantado el medio arXiv AI.