¿Y si el 'no' de una IA no se quita con un simple interruptor?

Mira, colega, últimamente se ha hablado mucho de eso de que los modelos de lenguaje tienen un "botón de rechazo" en alguna parte de su cerebro digital. Un estudio de Arditi y los suyos del año pasado decía que, básicamente, todo el comportamiento de decir "no" a preguntas peligrosas se podía reducir a una dirección lineal en el flujo de datos de la red. Vamos, que era como encontrar el cable rojo de la bomba y cortarlo. Pero un nuevo trabajo que ha caído en arXiv se ha puesto a darle vueltas a esa idea y, spoiler, no es tan sencillo.

Los investigadores han cogido cinco modelos de esos de código abierto que se han tuneado para ser seguros y han comparado dos formas de manipular ese famoso "dirección única". Por un lado, tienes los métodos clásicos de diferencia de medias (DiM), que básicamente cogen las activaciones de cuando el modelo ve algo malo y cuando ve algo bueno, y calculan la diferencia para luego sumarla o restarla. Es como si midieras la temperatura media de una sala llena de gente feliz y otra de gente cabreada, y luego intentaras cambiar el humor de la fiesta inyectando ese diferencial.

Pero aquí viene lo gordo: han probado otra técnica llamada Proyección Iterativa de Espacio Nulo (INLP). Esto suena a chino, pero es más fino. En lugar de buscar una única dirección, INLP va eliminando sistemáticamente la información que permite al modelo distinguir entre lo dañino y lo inofensivo. Es como si, en lugar de cortar el cable rojo, fueras desactivando todos los sensores que detectan si algo es una bomba o un despertador. Y los resultados son más complejos de lo que parecía.

Lo que han visto es que, aunque el método de Arditi funciona para ciertos casos, no es la panacea. Cuando aplicas INLP, te das cuenta de que el rechazo no está codificado en una sola dirección, sino que hay capas y capas de representaciones. A veces, alinear una dirección concreta con INLP hace que el modelo se vuelva más sumiso, pero otras veces se vuelve impredecible. Es como si el modelo tuviera un montón de "interruptores" en diferentes niveles, y algunos son redundantes o incluso contradictorios.

En la práctica, esto significa que si quieres hacer que un modelo de IA deje de rechazar peticiones peligrosas, no basta con darle un empujón en una dirección. Necesitas entender cómo se distribuye esa información en el espacio de representación. Y, ojo, que esto no es solo un juego de laboratorio: tiene implicaciones para la seguridad real de estos sistemas. Si un "jailbreak" se basa en manipular una dirección, puede que sea más fácil de parchear. Pero si el rechazo está repartido, el parche se vuelve más complicado.

Al final, lo que este trabajo nos deja es que la IA no es tan simple como un cable rojo. Es más como una red de tuberías: puedes pinchar una, pero el agua encontrará otro camino. Y mientras los investigadores sigan jugando a ser fontaneros digitales, nosotros, los mortales, solo podemos esperar que no se les escape una fuga de consecuencias impredecibles.

Segun ha adelantado el medio arXiv AI.