Anthropic alerta del posible uso de IA en ciberataques y pide un marco regulatorio común
Jack Clark, cofundador de Anthropic, en su primera visita a Japón, sostuvo que es probable que las herramientas de IA se estén usando en los ciberataques recientes, ya que los atacantes emplean las mismas herramientas disponibles que las empresas. Según Clark, las medidas de la compañía, como las salvaguardas y el acceso prioritario de empresas a sus modelos más recientes mediante Project Glasswing, no bastan por sí solas, porque existen modelos de otras firmas y de pesos abiertos, por lo que propone reglas comunes para todo el ecosistema. Además, dijo no tener constancia de ataques ejecutados de forma autónoma por IA y advirtió de que la automejora recursiva de la IA podría ser posible ya en 2027.
Fuentes
- ITmedia AI+ (JP)相次ぐサイバー攻撃に「AI悪用の可能性」……初来日のAnthropic共同創業者が言及 悪用どう抑止