Supervisión humana de la IA: responsabilidad cuando el sistema falla
El artículo plantea el riesgo de que las personas deban intervenir para corregir a sistemas de IA que han funcionado de forma fiable durante meses. Describe a un empleado que revisa las recomendaciones de la IA, rara vez cambia el resultado y aun así sigue siendo responsable de él cuando el sistema comete un error o se detiene. El foco está en la tensión entre la confianza acumulada y la responsabilidad humana ante fallos inesperados.
Fuentes
- News on Artificial Intelligence and Machine LearningAs AI takes on more tasks, what happens when people have to jump in to clean up after it?