¿Una conciencia artificial? La idea loca de que las máquinas se arrepientan solas

Mira, te voy a contar una cosa que he leído y que me ha dejado pensando. Resulta que un grupo de investigadores ha soltado un paper en arXiv donde básicamente dicen: "Oye, ¿y si los modelos de lenguaje gigantes pudieran darse cuenta ellos solitos de que están metiendo la pata éticamente?" Y no solo eso, sino que además se corrigen a sí mismos. Suena a ciencia ficción barata, pero ahí está.

La movida va de meterle a la inteligencia artificial una especie de "conciencia" —así, entre comillas— que revisa su propio razonamiento y sus respuestas. Luego, con una técnica llamada Direct Preference Optimization (DPO), la entrenan para que huya de las salidas poco éticas como un gato del agua. Es como ponerle un filtro interno que le dice: "Eh, esto que estás soltando no mola, mejor cállate o cambia el rollo".

Lo más flipante es que esto no es un parche externo, como los filtros de contenido que ya conocemos y que a veces fallan de manera épica. Aquí la idea es que el modelo aprenda a autorregularse mientras trabaja, en tiempo real. Vamos, como si un político tuviera un ángel en el hombro que le susurra antes de soltar una burrada. Pero en digital.

Ahora, yo me pregunto: ¿Esto no es un poco peligroso? Porque si le damos a una máquina la capacidad de decidir qué es ético y qué no, basándose en un entrenamiento que nosotros mismos le hemos dado, ¿no estamos externalizando nuestra propia moral? Y luego, ¿quién vigila al vigilante? Porque el DPO se entrena con datos humanos, y ya sabemos cómo somos de inconsistentes nosotros con la ética. Un día nos parece mal algo y al día siguiente lo aplaudimos.

Pero bueno, no voy a ser un aguafiestas total. La técnica molaría si funciona para evitar que la IA suelte discursos de odio o consejos médicos peligrosos. El problema es que esto suena a solución mágica, y en esto de la inteligencia artificial, las soluciones mágicas suelen esconder curros enormes o, peor, sesgos disfrazados de virtud.

Al final, lo que me queda es que estamos jugando a ser dioses, pero sin manual de instrucciones. Y mientras tanto, los algoritmos aprenden a tener "conciencia" antes que muchos humanos. Tela.

Según ha adelantado el medio arXiv AI.