# Confidencialidad de Datos: Desafíos con la IA Generativa

Uno de los desafíos más complejos de la IA Generativa es garantizar la privacidad y seguridad de los datos confidenciales. Es ahí donde surge mi pregunta, **¿Existe la Privacidad en el entorno de la IA Generativa?** La verdad es que como respuesta simple es **no**. Debemos saber que la IA se alimenta de datos masivos con aproximadamente **281 Terabytes de Información**, evitar que los sistemas inteligentes filtren información confidencial, es complejo y requieren técnicas muy avanzadas para evitar que sean reveladas o simplemente evitar entrenar la IA con datos de esa categoría.

Para la IA Generativa, los datos es esencial para aprender y mejorar de forma autónoma a medida que va adquiriendo nueva información, existe muchas formas de recolectar información y entre ellas es mediante los mensajes de chat o conexiones por API, ahí es donde la privacidad se convierte en tema crítico porque debemos tener cuidado que sí y no compartir con la IA Generativa.

## **Estadísticas sobre el filtrado de datos confidenciales en IA Generativa**

Un estudio realizado por la empresa Harmonic Security, encontró estadísticas relevantes sobre la seguridad y privacidad de los datos en IA Generativas como: **ChatGPT, Gemini, Copilot, Claude y Perplexity.**

* 8.5% de las indicaciones(*prompt en inglés*) a la IA Generativa contienen datos sensibles.
    
* 45.77% de los datos sensibles compartidos con la IA son de clientes.
    
    * Incluyen datos como: Información de pagos, datos de inicio de sesión y reportes de compra.
        
* 26.83% de los datos sensibles encontrados en la IA mediante prompt fueron filtrados por empleados.
    
* Códigos sensibles y claves de acceso representa el 5.64%
    
* 53.5% de los datos sensibles en ChatGPT fueron filtrados por usuarios con acceso mediante el plan gratuito.
    
* En un análisis realizado por **Gartner**, obtuvo que para 2027, el 40% de los datos filtrados serán por mal uso de la IA Generativa.
    

Palo Alto networks realizó un reporte sobre el estado de la IA Generativa y desveló estos datos sobre los riesgos de los sistemas inteligentes.

* Las organizaciones usaron en promedio 66 aplicaciones de GenAI, de las cuales el 10 % eran de alto riesgo.
    
* GPT-5 fue entrenado con aproximadamente 281 Terabytes de Información.
    

## Análisis y Reflexiones

**¿Existe la Privacidad en el entorno de la IA Generativa?** Es nuestra pregunta principal y lo vuelvo a traer a la reflexión porque la seguridad independientemente del tipo de sistema siempre ha sido compleja y se resume en aquella frase utilizada por *hackers:* **“Ningún sistema es seguro”.**

**En 2024, Palo Alto network identificó que el tráfico de GenAI aumentó más del 890 porciento**, eso es algo significante porque indica que la adopción de esta tecnología aumentó de forma drástica al mismo tiempo que aumentó los riesgos e incidentes sobre seguridad y privacidad.

El acceso a estos sistemas es fácil, pero lo perjudicial es la falta de conocimiento para su uso responsable, saber que la IA utiliza datos para entrenar y mejorar sus modelos; nos ayuda a evitar que podamos compartir datos confidenciales a la IA Generativa que posteriormente podrían ser recuperados por cibercriminales.

Para evitar esto debemos considerar ciertas prácticas que nos ayudan a evitar caer en incidentes sobre seguridad y privacidad de datos. Aquí comparto información sobre medidas de seguridad que podemos adoptar mientras utilizamos la IA Generativa:

### **Las buenas prácticas para el uso responsable de estos sistemas inteligentes:**

**Para individuos**

* **Protege tus Datos Personales**: Nunca envíes números de teléfonos personales, direcciones, correos o generar contraseñas por IA.
    
* **Sé responsable del Contenido que generas,** eres responsable de lo que le pides a la IA generativa, las respuestas pueden contener datos falsos conocidos como alucinaciones, sesgos, prejuicios o discriminación.
    
* **Cuida tu Privacidad,** no subir fotografías personales o intimas, porque puedes ser víctima de *deep fakes*.
    
* **No compartir tus conversaciones,** evita compartir tus conversaciones al público general o por redes sociales porque pueden que en el futuro sean accesibles mediante los motores de búsqueda.
    
* **Evita información sensible,** no compartas claves de seguridad o cualquier otro dato que sirva para verificar la seguridad de tus cuentas.
    
* **Cuidado con los enlaces,** las respuestas de la IA Generativa te pueden enlazar a *malwares*, códigos maliciosos o *phishing* que podría robar tus datos; revisa y verifica que los enlaces sean seguros.
    
* **Recuerda**, que algunas **versiones o planes gratis** de las IA Generativas más conocidos, utilizan los datos enviados para entrenar sus modelos, por lo que no se garantiza la seguridad y privacidad de sus datos; eso lo especifican en sus términos y condiciones.
    

**Para Empresas o negocios**

* Desarrollar una directriz en el uso de la IA Generativa.
    
* Desarrollar una estrategia de implementación y uso de IA Generativa.
    
* Ejecutar campañas de concientización del equipo o personal que utilizan IA Generativa.
    
* No utilizar versiones gratuitas, porque estos datos que se envían mediante chat son entrenados para mejorar la IA, a diferencia de planes de pago que incluyen seguridad y privacidad en el uso de los datos.
    
* **Definir e implementar estándares de acceso** a información crítica y su uso en la IA Generativa.
    
* Capacitación continua sobre ciberseguridad y protección de datos confidenciales.
    
* Aplicar buenas prácticas de Integridad de Datos.
    
* Implementar estándares de protección de datos.
    

**Seguir estas buenas prácticas te ayudará a aprovechar los beneficios de la IA generativa mientras minimizas los riesgos para tu privacidad y seguridad.**

## Conclusiones

**¡Listo!** Estos fueron las estadísticas sobre la privacidad de datos en la IA Generativa, también quiero hacer énfasis en la aplicación de las buenas prácticas para el uso de responsable, proteger y cuidar tu información debe ser prioridad al mismo tiempo que puedes utilizar la IA como una herramienta que te ayuda a mejorar tu productividad.

---

Me interesa conocer tu opinión, suscríbete y deja tus comentarios.

¡Muchas Gracias! 🚀