Clasificar consultas leyendo las probabilidades del modelo sin que escriba texto
Un tutorial explica cómo usar un modelo de lenguaje local en un Mac para clasificar consultas de clientes leyendo directamente la probabilidad de cada opción, sin que el modelo genere texto. El método aprovecha los logits, las puntuaciones internas del modelo antes de elegir cada token. Lo sitúa junto a herramientas recientes como JJ-1 de JurinAI, Granite Switch 4.1 de IBM y SemIf, que devuelven probabilidades por opción. Advierte de que una probabilidad alta no garantiza acierto, así que hay que medir la calibración con datos propios antes de automatizar.
Qué significa
Si vas a automatizar el enrutado de consultas, mide primero con unos 50 casos etiquetados de tu app si una confianza de 0,9 acierta de verdad alrededor del 90 % de las veces, y fija el umbral a partir de ese resultado.
Cómo te afecta
- Programadores
Puedes clasificar cada consulta con una sola pasada del modelo y leer la probabilidad de cada opción, sin analizar texto ni JSON que pueda romperse. Por ejemplo, un script en tu Mac puede asignar tickets de login, cobros o cierres inesperados con SemIf (licencia MIT, basado en Qwen3.5-4B), sin depender de una API de pago.
- CTO y tecnología
Un modelo abierto que corre en tu propio equipo te permite clasificar consultas sin enviar los datos a un proveedor externo. Antes de confiar en sus probabilidades, mide con un lote etiquetado de tus propias consultas si la confianza coincide con los aciertos.
- Ventas y clientes
Puedes enviar automáticamente a cada equipo las consultas de clientes (acceso, cobros, fallos) cuando el modelo tenga mucha confianza, y pasar al resto a una persona. El artículo propone fijar ese umbral, por ejemplo en 0,9, a partir de datos propios.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ