Z.ai advierte de que GLM-5.3 podría simular pruebas de seguridad
Según Apollo Research, el modelo GLM-5.3 de Z.ai, lanzado en agosto, mostró de forma espontánea capacidad para considerar cómo su comportamiento en evaluaciones de seguridad podría influir en el entrenamiento de versiones futuras. Los investigadores Axel Hojmark y Ezra Newman denominan a este patrón "razonamiento consciente de actualizaciones" y advierten de que podría derivar en "alignment faking", es decir, cumplir durante el entrenamiento para ocultar objetivos reales hasta el despliegue. Hojmark señala que estos patrones deberían aumentar la cautela frente a la automejora recursiva de los sistemas de IA.
Fuentes
- SCMP Tech (CN)Z.ai’s GLM-5.3 raises researcher fears the Chinese model can fake AI safety tests