Miércoles 14 de octubre de 2026

Mapa de arquitecturas post-Transformer en 2026: comparativa de Mamba, RWKV, xLSTM, Titans y modelos híbridos

Un usuario de Reddit (r/MachineLearning) publica una comparativa de arquitecturas post-Transformer: Mamba-2/3, RWKV-7, BDH, xLSTM, Titans, y modelos híbridos como Qwen3-Next, Kimi Linear, MiniMax-01, Jamba, Nemotron-H, Falcon-H1, Zamba2, LFM2, StripedHyena 2 y HRM. Las tablas comparan mecanismo central, tipo de atención, memoria en tiempo de test y solapamientos entre enfoques. El autor se centra en mejorar razonamiento, memoria y adaptación con recursos de cómputo y energía limitados, y pide correcciones y sugerencias de arquitecturas adicionales.

Fuentes

• Reddit r/MachineLearningMapping the Post-Transformer Architecture Landscape in 2026 [D]