Publican una versión GGUF de DeepSeek V4.1 Flash con menos rechazos
Un usuario de la comunidad ha publicado en Hugging Face una versión GGUF de DeepSeek V4.1 Flash 1017 modificada con la técnica 'abliterated', que reduce las negativas del modelo. Según el autor, los rechazos bajan de 97 a 4 de cada 100 prompts en modo chat, y de 98 a 9 en modo pensamiento. En lugar de eliminar una única dirección, aplicó un ajuste de subespacio de rango 2, y también ha publicado un LoRA en formato GGUF.
Qué significa
Puedes ejecutar este modelo en tu propio equipo sin enviar tus datos a un servicio externo, pero las cifras de rechazo son las del autor, así que conviene comprobarlas con tus propios prompts antes de confiar en él.
Cómo te afecta
- Programadores
Puedes descargar el GGUF desde Hugging Face y cargarlo en tu propio equipo, sin enviar tus prompts a una API externa. Antes de integrarlo en un flujo de trabajo, lanza tu batería de pruebas contra el original y la versión abliterated, porque las cifras de rechazo y de rendimiento son las que da el autor.
- CTO y tecnología
Si ya evalúas modelos abiertos para ejecutar IA en infraestructura propia, es una opción más que probar, con datos que no salen de tu entorno. Antes de desplegarlo, revisa la licencia tanto del modelo original como del derivado y la procedencia del fichero, porque lo publica un particular y no el laboratorio.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ