Anthropic impulsa en el Congreso de EE. UU. un proyecto para suspender sistemas de IA de alto riesgo
Anthropic promueve en el Congreso estadounidense un proyecto de ley que permitiría a las autoridades suspender el desarrollo y uso de sistemas de IA que supongan una amenaza grave. La intervención se activaría ante riesgos de daños por valor de 1.000 millones de dólares o de muerte o lesiones graves de más de 50 personas, vinculados a armas biológicas, pérdida de control de la modelo o ciberataques. Los expertos independientes registrados en el Departamento de Comercio evaluarían el peligro, y el ministerio podría demandar en los tribunales la suspensión de un proyecto; además, la norma exigiría unidades internas de seguridad, informes públicos y notificación de fallos graves, con protección para los denunciantes.
Fuentes
- iXBT (RU)Блокировать ИИ при риске массовой гибели людей собираются в США