Unsloth Desktop añade modelos de decisión Laya, biblioteca de documentos y generación de imagen y vídeo hasta 4,5 veces más rápida
Unsloth lanza una nueva versión de su aplicación de escritorio que permite ejecutar localmente modelos de decisión Laya para responder preguntas de sí/no, opción múltiple y puntuación con probabilidades, mediante una API compatible con el SDK de TypeSafe. Incluye una pestaña Library para visualizar PDF, Word, Excel y PowerPoint, soporte de lotes y salidas estructuradas en Apple Silicon con caché KV TurboQuant, y descargas de modelos desde ModelScope. La generación de vídeo LTX-2.3 se acelera unas 4,5 veces y la decodificación VAE entre 1,7 y 6,3 veces.
Fuentes
- GitHub unslothai/unslothunslothai/unsloth: Laya Decision Models + Library