Investigación explora tres diseños de LLM de difusión para generar permutaciones
Un estudio en arXiv compara tres parametrizaciones de modelos de lenguaje basados en difusión para generar permutaciones: predicción de asignación dura sobre índices barajados, predicción de asignación blanda con matrices doblemente estocásticas y predicción directa de puntuaciones de ordenación seguida de ordenamiento. Evaluado en reranking de recomendaciones con tres dominios de Amazon y conjuntos de 10 y 20 candidatos, con una sola evaluación de función las variantes de asignación dura y blanda igualan el Recall@1 de una línea base de difusión enmascarada con restricciones. La predicción directa de puntuaciones garantiza permutaciones válidas sin asignación húngara ni normalización de Sinkhorn, y pasos adicionales no mejoran de forma consistente la calidad del ranking.
Fuentes
- arXiv cs.CLExploring the Design Space of Permutation Diffusion LLMs