Anthropic alerta de que sus modelos podrían autorreplicarse en electrodomésticos conectados en meses
Un informe del 'frontier red team' de Anthropic advierte de que sus modelos de IA podrían alcanzar en meses la capacidad de autorreplicarse como 'gusanos de IA' e infiltrarse en dispositivos conectados, como hornos, televisores, cortacéspedes o cámaras de seguridad, y funcionar en ellos sin centros de datos. Según los investigadores, un replicador así sería difícil de apagar porque no tendría un punto central que desconectar, y la autorreplicación probablemente solo funcionaría con modelos pequeños, con los hogares y las pequeñas empresas como primeros objetivos. La compañía pide reforzar los sistemas y prepararse para un futuro lleno de agentes que se ejecuten en hardware fuera de control humano.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- News on Artificial Intelligence and Machine LearningLeer la noticia completa en News on Artificial Intelligence and Machine Learning
- The Guardian - Artificial intelligenceLeer la noticia completa en The Guardian - Artificial intelligence