Slopsquatting: los LLM inventan paquetes y los atacantes los registran
Un estudio de USENIX Security 2025 analizó 576.000 muestras de código generadas por 16 modelos y halló que alrededor de uno de cada cinco paquetes recomendados no existe, proporción que sube a uno de cada cuatro o cinco en modelos abiertos. El 43 % de estas alucinaciones se repite en las diez ejecuciones, lo que permite a un atacante registrar de antemano el nombre inventado y esperar a que los desarrolladores lo instalen. El caso de huggingface-cli, una pieza falsa con más de 30.000 descargas en tres meses, muestra el riesgo real. El autor comprobó en un experimento propio que siete de los nueve paquetes sugeridos por cinco LLM no existían.
Fuentes
- Habr IA (RU)Slopsquatting: как мы 20 лет учили разработчиков не доверять пакетам, а потом всем скопом доверились LLM