Un LLM de 27.000 millones de parámetros funciona en una PS5 con jailbreak
PS5LM Plus, una aplicación para PS5 con jailbreak, ejecuta Qwen3.8-27B cuantizado a 2 bits a unos 20 tokens por segundo, usando la GPU mediante un controlador Vulkan y 12 GiB de memoria. La versión original, que solo usa CPU, solo admite modelos de unos 1,6 GB, y el modelo de 27B tardaba alrededor de un token por minuto. La compatibilidad se limita a las versiones de sistema 7.00 a 13.60, y una actualización de firmware la rompe.
Fuentes
- #LLMタグ脱獄したPS5で27BのLLMはなぜ動くのか。PS5LM Plusの条件