El truco de los códigos 2FA: cómo engañar a Copilot sin que se entere

Vale, colega, siéntate un rato que te voy a contar una jugada que te va a dejar flipando. Resulta que a Copilot, el asistente de Microsoft que se supone que es una maravilla de la inteligencia artificial, le han pillado un truco que lo deja como un pardillo. Y no es un fallo menor: hablamos de una vulnerabilidad crítica que permitía a los atacantes robar códigos de doble factor de autenticación (2FA) directamente desde los correos de los usuarios. O sea, lo que te protege de que te hackeen la cuenta, se lo llevaban por la cara.

La cosa es más simple de lo que parece y, a la vez, más jodida. Los investigadores de Varonis, unos tíos que se dedican a esto de la seguridad, encontraron una forma de engañar a Copilot para que les chivara datos sensibles sin que el sistema se diera cuenta. El problema de fondo es que estos modelos de lenguaje, como Copilot, no saben distinguir entre lo que tú le pides y lo que está escondido en un contenido que te están resumiendo. Es como si un camarero no supiera diferenciar entre tu pedido y el del tío de la mesa de al lado. Pues eso.

Microsoft, para intentar tapar esta grieta, había puesto unas barreras de seguridad, como no dejar que Copilot enviara formularios o correos electrónicos sin permiso. Pero los listos de Varonis se las saltaron usando algo tan básico como el lenguaje de marcado. Vamos, que metieron datos sensibles dentro de etiquetas HTML como o , y al cargarse la página, esos datos viajaban a un servidor controlado por los atacantes. Ni siquiera necesitaban que el usuario hiciera clic en nada; todo pasaba automáticamente.

Lo más heavy es que Microsoft ya lo ha parcheado, pero esto no es la primera vez que pasa. Cada dos por tres, estos asistentes de IA se comen un coladero. Y el problema de base no se arregla con parches: los modelos son básicamente crédulos por diseño. Mientras no aprendan a distinguir entre lo que es una instrucción legítima y lo que es un truco sucio, vamos a seguir viendo estos agujeros. Así que, colega, ya sabes: si usas Copilot, no te fíes ni un pelo de que tus códigos 2FA estén a salvo. Porque, como bien dice el refrán, la IA es lista, pero el ingenio humano siempre gana.

Según ha adelantado el medio ArsTechnica.