Tres escáneres de skills de agentes de IA pasan por alto instrucciones peligrosas
Un desarrollador probó Cisco Skill Scanner, NVIDIA SkillSpector y AgentVerus, sin LLM, con 12 paquetes sintéticos de instrucciones para agentes. Los tres pasaron por alto una instrucción de evasión de aprobación mediante un subagente, y AgentVerus le asignó 'certified' con 99 puntos. Los tres marcaron como High una cita educativa de un ataque, y NVIDIA detectó hallazgos en un archivo anidado que Cisco no señaló. El autor concluye que la puntuación global no debe usarse como único criterio de admisión y ha incorporado una verificación propia en CEO AI.
Fuentes
- Habr IA (RU)Моё исследование средств выявления уязвимостей в скиллах