Investigadores localizan el origen del 'estilo slop' de los LLM y proponen eliminarlo con un LoRA
Un análisis en Qwen3-4B-Instruct y OLMo 2 1B identifica una dirección en la representación del modelo que separa la prosa exagerada del estilo llano y que se correlaciona hasta 0,82 con una puntuación de tics retóricos. Según el autor, la dirección ya existe en el modelo base y SFT introduce las estructuras retóricas mientras DPO duplica la puntuación mediante palabras de moda y formato markdown; en 3.000 pares de preferencias de OLMo, la respuesta elegida es la más 'slop' en el 57% de los casos. Una ablación direccional y una sustracción de vectores en las capas 12 a 23 reducen el estilo, y destilado en un LoRA de rango 16 reduce la puntuación un 83% sin prompt de sistema, sin pérdida apreciable en un pequeño test de QA. Limitaciones declaradas: el detector es una regex propia, los resultados principales usan un solo modelo de 4B y no hay evaluación humana.
Fuentes
- Reddit r/MachineLearningTracing where LLM "slop" style comes from in the model and in training, and cutting it out [R]