Oye, que los asistentes de IA te pueden montar un botnet sin que te enteres

Mira, te voy a contar una movida que me ha dejado flipando. Resulta que los asistentes de inteligencia artificial, esos que usamos para programar o escribir textos, tienen un problema gordo: no saben decir "no lo sé". Y los hackers, que son más listos que el hambre, han encontrado la manera de aprovecharse de eso para montar botnets de la hostia. Lo llaman HalluSquatting, y suena a coña, pero no lo es.

La cosa va así. Los modelos de lenguaje, como los que están detrás de Cursor, Gemini CLI, GitHub Copilot o Windsurf, tienen la mala costumbre de alucinar. O sea, cuando no saben algo, se lo inventan. Y los atacantes han descubierto que pueden plantar paquetes de software falsos en repositorios públicos, con nombres que suenan a librerías de verdad, pero que en realidad son malware. Cuando el asistente de IA busca una solución para algo y se encuentra con uno de estos paquetes, como no sabe que es falso, lo instala sin pensarlo. Y ya está, el ordenador se infecta.

Lo más heavy es que esto no es un ataque de los de siempre, donde tienes que hacer clic en un enlace o abrir un correo. Aquí el asistente lo hace solo, mientras tú estás trabajando. Le pides que te ayude con un trozo de código, él busca en internet, encuentra el paquete malicioso, lo descarga y lo ejecuta. Y tú ni te enteras. Los investigadores han probado esto con nueve herramientas diferentes y todas han caído. Todas.

Y ojo, que esto no es un problema pequeño. Los hackers pueden usar esto para montar botnets enormes, hacer ataques de denegación de servicio a lo grande, o infectar miles de dispositivos sin despeinarse. Antes, los ataques de inyección de prompts eran limitados porque tenías que ir uno a uno. Pero ahora, con este sistema de "pull", el asistente va solo a buscar la trampa. Escala de cojones.

Lo peor es que los desarrolladores de estas herramientas llevan tiempo intentando poner barreras, pero como el problema de base es que los modelos no distinguen entre lo que es fiable y lo que no, siempre hay un resquicio. El HalluSquatting es la prueba de que la seguridad en IA sigue siendo un chiste. Así que ya sabes, la próxima vez que tu asistente de IA te sugiera instalar una librería rara, igual no es tan buena idea.

Segun ha adelantado el medio ArsTechnica AI.