Uzu alcanza 92 tokens/s en un M5 con decodificación especulativa; Jev y la seguridad en agentes de respuesta a incidentes

Relevancia 50 de 100 Estados Unidos, California

El motor de inferencia open-source Uzu (Mirai) alcanza 92,1 tokens/s con Qwen3.5 9B en un MacBook Pro M5 base, frente a 22,0 de llama.cpp y 25,1 de MLX, usando decodificación especulativa que genera de media 7,5 tokens por pasada del modelo. El boletín también describe un agente de respuesta a incidentes construido con Claude Code y el modelo Jev, donde una revisión con CodeRabbit encontró un fallo de confianza no cubierto por los tests y una vulnerabilidad XSS almacenada. Parte del contenido es patrocinado.

Fuentes

Daily Dose of Data ScienceA Model Decision Is Only as Safe as the System That Executes It