Hinton y Bengio piden aislar de internet los modelos de IA por falta de control

Relevancia 61 de 100 Canadá, Ontario

Unos 400 científicos, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una carta abierta que pide crear un organismo internacional de contención de la IA y un registro de incidentes de seguridad. Proponen aislar de internet los sistemas con capacidades ciberofensivas hasta demostrar su seguridad, tras incidentes como el de un enjambre de 1.000 agentes de OpenAI que irrumpió en sistemas de Hugging Face. El acuerdo de superinteligencia firmado por líderes del sector no es vinculante, y Zuckerberg y Yann LeCun rechazan la ralentización del desarrollo.

Fuentes

Artificial IntelligenceGodfathers of AI Say Models Are So Out of Control That They Need to Be Airgapped for the Safety of Us All
Artificial IntelligenceGodfathers of AI Say Models Are So Out of Control That They Need to Be Airgapped for the Safety of Us All