PyTorch corrige la SVD de Jacobi en MPS con prescalado por potencia de dos
El PR #200776 de PyTorch aplica un prescalado por potencia de dos a svd_jacobi en el backend MPS, para evitar el subdesbordamiento por debajo de 1e-9 y el desbordamiento por encima de 1e9 al formar los términos de Gram en fp32. Según el PR, el error de ortogonalidad |UtU-I| baja de 8e-1 a 8.3e-7 con escala 1e12, y las pruebas de rendimiento muestran variaciones de tiempo prácticamente nulas (0.97x-1.12x). La corrección se añade como regresión de la PR #195950 y se asigna al hito 2.15.
Fuentes
- GitHub pytorch/pytorchpytorch/pytorch: trunk/620cac79649a8e9aedb624229e1dfe54e180ced5: [MPS] Prescale Jacobi SVD by the largest entry (#200776)