El uso de chatbots de IA como ChatGPT, Gemini y Copilot ya forma parte del día a día, pero los expertos en ciberseguridad alertan de un riesgo poco visible. Muchos usuarios comparten más información de la que creen, sin ser conscientes de que esas conversaciones pueden almacenarse, analizarse y utilizarse para entrenar futuros modelos.
En realidad, existe una brecha importante entre la sensación de privacidad que transmiten estas herramientas y la forma en que operan. Así lo explica Eusebio Nieva, director técnico de Check Point Software para España y Portugal. En conversación con PRNoticias, cuenta qué debemos compartir (y qué no) con la IA y los riesgos de compartir información sensible con los chatbots de IA.
¿Cuáles son las cinco cosas que nunca deberíamos compartir con una IA?
Hay activos de información que jamás deben cruzar la frontera de un chatbot. En primer lugar, los datos de identificación personal como números de documento o direcciones. Segundo, cualquier tipo de credencial, ya sean contraseñas o claves de acceso. Tercero, la propiedad intelectual y el código fuente propietario de una empresa. Cuarto, la información financiera detallada, como números de tarjeta o balances contables. Y finalmente, datos sensibles sobre salud o registros médicos, que están protegidos por estrictas normativas de privacidad.
¿Por qué muchas plataformas guardan las conversaciones por defecto?
La razón principal es mantener un contexto adicional al del entrenamiento de la IA para responder con un histórico mucho mayor a las preguntas del usuario de forma que se adapte a sus costumbres, su forma de trabajar y sus peculiaridades de manera que la experiencia sea mucho más amigable. Otra razón es utilizar algunos de esos datos para un entrenamiento posterior del modelo. Estas plataformas utilizan el historial de interacciones para perfeccionar sus modelos de procesamiento de lenguaje, permitiendo que la herramienta aprenda de sus propios errores y mejore la coherencia de sus respuestas.
Debemos destacar que la gran parte de las empresas ha encontrado prompts de IA en riesgo en los últimos meses. Esto demuestra que no solo será necesario mejorar el modelo, sino que se trata también de que cada interacción es un dato que se sale del control de la empresa si no existe una gobernanza adecuada.
¿Cómo puede reutilizarse o incluso exponerse la información sensible?
El riesgo reside en que los datos introducidos pasan a formar parte del vasto corpus de entrenamiento del modelo. Esto significa que, si no hay filtros de anonimización adecuados, la información confidencial de un usuario podría filtrarse indirectamente en las respuestas proporcionadas a otros usuarios o competidores. Asimismo, estos grandes repositorios de datos son un imán para los ciberdelincuentes, quienes buscan vulnerar la infraestructura del proveedor de IA para extraer historiales de chat mediante ataques de inyección de prompts o brechas de seguridad tradicionales. Otro de los riesgos adicionales es el robo de cuentas de herramientas de IA ya que, como en el histórico del usuario estarán almacenados los datos confidenciales, podría ser un problema de confidencialidad y fuga de datos.
Desde Check Point Software proponemos la visión ‘AI Defense Plane’, con el objetivo de ofrecer protección en tiempo ejecución para evitar que los agentes de IA exfiltren datos o se manipulen a través de ataques de ingeniería social de última generación.
¿Qué riesgos reales existen, desde el robo de identidad hasta filtraciones corporativas?
Los peligros son tangibles y multidimensionales. A nivel individual, la exposición de datos personales facilita el robo de identidad y el fraude financiero dirigido. En el ámbito empresarial, una filtración de datos puede suponer la pérdida de secretos comerciales que han costado años de inversión, además de enfrentar a la organización a multas millonarias por incumplimiento de normativas de protección de datos. El uso descuidado de la IA puede transformar un simple resumen de una reunión en una vulnerabilidad crítica para toda la infraestructura de la compañía. En este terreno, no basta con asegurar el chatbot: es crucial asegurar la red, el Workspace -puesto de trabajo-, la nube y la propia infraestructura de la IA. La seguridad debe ser prevention first porque, si esperas a detectar la fuga, el daño ya está hecho.
¿Qué se puede hacer si ya hemos compartido algo delicado?
Si se detecta que se ha compartido información sensible, la acción inmediata debe ser tratar de borrar el registro de esa conversación o eliminar la cuenta, aunque debemos ser conscientes de que esto no siempre garantiza la eliminación de los servidores de entrenamiento. Es imperativo cambiar cualquier contraseña comprometida y activar sistemas de autenticación en dos pasos. En el contexto corporativo, se debe informar de inmediato al equipo de ciberseguridad para iniciar un análisis de impacto y mitigar posibles brechas antes de que los datos sean explotados.
Si ponemos el foco en las empresas, estas deberían adoptar servicios como el ‘Secure AI Advisory Service’ para inventariar su Shadow AI y clasificar riesgos antes de que ocurra una brecha.
¿Estamos entrando en una etapa en la que la privacidad será un elemento diferencial de marketing?
Sin duda alguna. La privacidad ha pasado de ser una preocupación técnica a una ventaja competitiva. Las empresas tecnológicas que logren demostrar transparencia absoluta y ofrezcan modelos de IA con privacidad por diseño, donde los datos del cliente estén aislados y no se utilicen para aprendizaje global, serán las que lideren el mercado. En el futuro cercano, los usuarios no solo elegirán la IA más inteligente, sino la que garantice que su información permanecerá bajo su exclusivo control.
Aquí, nuestra misión ha evolucionado para habilitar una transformación segura de la IA. Ahora la prevención es un requisito de negocio, no solo una ventaja técnica, especialmente en un momento en el que los ataques evolucionan tan rápido. No se trata de prohibir la inteligencia artificial, sino de usarla con confianza gracias a una arquitectura abierta y unificada que proteja desde el código hasta la nube.
Seguiremos Informando…