La IA se adopta en las empresas más rápido de lo que se gobierna
Un especialista en ciberseguridad de SONDA Argentina advierte de que el uso de IA en las empresas crece sin políticas claras. Describe el 'shadow AI', es decir, empleados que cargan datos de clientes en chatbots gratuitos, y los riesgos de los chatbots corporativos mal diseñados, como los ataques de prompt injection. También señala el texto oculto en documentos para manipular procesos de selección o cotizaciones. Propone clasificar la información en crítica, sensible o pública, y mantener supervisión humana en las decisiones críticas.
Qué significa
Si un compañero pega una base de clientes en un chatbot gratuito, esos datos salen del perímetro de la empresa sin que nadie lo sepa. Antes de que llegue ese caso, define qué información puede usarse en cada herramienta.
Cómo te afecta
- Programadores
Antes de exponer un chatbot interno, prueba si responde a instrucciones escondidas en los datos (prompt injection) y revisa que no tenga puertas traseras en su diseño.
- CEO y dirección
Clasifica tus datos en crítico, sensible y público, y fija qué puede entrar en cada herramienta de IA. El riesgo ya existe en tu plantilla aunque no lo hayas aprobado.
- CTO y tecnología
Define qué herramientas de IA corporativas están aprobadas y audita el uso de las gratuitas desde tu red, en lugar de dejar que cada equipo elija.
- Legal
Un empleado que sube bases de clientes a un chatbot gratuito puede exponer datos personales. Documenta por escrito qué información puede usarse con IA y quién la aprueba.
- Oficina
No subas listados de clientes ni documentos internos a chatbots gratuitos. Pregunta a sistemas si tu empresa tiene una versión corporativa, como Microsoft Copilot, y úsala para esos documentos.
- RRHH
Si usas IA para cribar currículums, revisa a mano los candidatos descartados y comprueba que los CV no contengan texto oculto que altere el resultado. Pregunta también a tu proveedor si su herramienta lo detecta.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- iProUp.com - Últimas noticias y videos sobre tecnología, Inteligencia Artificial, realidad aumentada, realidad virtual, experiencias inmersivas, economía del conocimiento e industria 4.0 - InnovaciónLeer la noticia completa en iProUp.com - Últimas noticias y videos sobre tecnología, Inteligencia Artificial, realidad aumentada, realidad virtual, experiencias inmersivas, economía del conocimiento e industria 4.0 - Innovación