Confidencialidad de Datos: Desafíos con la IA Generativa

Uno de los desafíos más complejos de la IA Generativa es garantizar la privacidad y seguridad de los datos confidenciales. Es ahí donde surge mi pregunta, ¿Existe la Privacidad en el entorno de la IA Generativa? La verdad es que como respuesta simple es no. Debemos saber que la IA se alimenta de datos masivos con aproximadamente 281 Terabytes de Información, evitar que los sistemas inteligentes filtren información confidencial, es complejo y requieren técnicas muy avanzadas para evitar que sean reveladas o simplemente evitar entrenar la IA con datos de esa categoría.

Para la IA Generativa, los datos es esencial para aprender y mejorar de forma autónoma a medida que va adquiriendo nueva información, existe muchas formas de recolectar información y entre ellas es mediante los mensajes de chat o conexiones por API, ahí es donde la privacidad se convierte en tema crítico porque debemos tener cuidado que sí y no compartir con la IA Generativa.

Estadísticas sobre el filtrado de datos confidenciales en IA Generativa

Un estudio realizado por la empresa Harmonic Security, encontró estadísticas relevantes sobre la seguridad y privacidad de los datos en IA Generativas como: ChatGPT, Gemini, Copilot, Claude y Perplexity.

• 8.5% de las indicaciones(prompt en inglés) a la IA Generativa contienen datos sensibles.

• 45.77% de los datos sensibles compartidos con la IA son de clientes.

  • Incluyen datos como: Información de pagos, datos de inicio de sesión y reportes de compra.

• 26.83% de los datos sensibles encontrados en la IA mediante prompt fueron filtrados por empleados.

• Códigos sensibles y claves de acceso representa el 5.64%

• 53.5% de los datos sensibles en ChatGPT fueron filtrados por usuarios con acceso mediante el plan gratuito.

• En un análisis realizado por Gartner, obtuvo que para 2027, el 40% de los datos filtrados serán por mal uso de la IA Generativa.

Palo Alto networks realizó un reporte sobre el estado de la IA Generativa y desveló estos datos sobre los riesgos de los sistemas inteligentes.

• Las organizaciones usaron en promedio 66 aplicaciones de GenAI, de las cuales el 10 % eran de alto riesgo.

• GPT-5 fue entrenado con aproximadamente 281 Terabytes de Información.

Análisis y Reflexiones

¿Existe la Privacidad en el entorno de la IA Generativa? Es nuestra pregunta principal y lo vuelvo a traer a la reflexión porque la seguridad independientemente del tipo de sistema siempre ha sido compleja y se resume en aquella frase utilizada por hackers: “Ningún sistema es seguro”.

En 2024, Palo Alto network identificó que el tráfico de GenAI aumentó más del 890 porciento, eso es algo significante porque indica que la adopción de esta tecnología aumentó de forma drástica al mismo tiempo que aumentó los riesgos e incidentes sobre seguridad y privacidad.

El acceso a estos sistemas es fácil, pero lo perjudicial es la falta de conocimiento para su uso responsable, saber que la IA utiliza datos para entrenar y mejorar sus modelos; nos ayuda a evitar que podamos compartir datos confidenciales a la IA Generativa que posteriormente podrían ser recuperados por cibercriminales.

Para evitar esto debemos considerar ciertas prácticas que nos ayudan a evitar caer en incidentes sobre seguridad y privacidad de datos. Aquí comparto información sobre medidas de seguridad que podemos adoptar mientras utilizamos la IA Generativa:

Las buenas prácticas para el uso responsable de estos sistemas inteligentes:

Para individuos

• Protege tus Datos Personales: Nunca envíes números de teléfonos personales, direcciones, correos o generar contraseñas por IA.

• Sé responsable del Contenido que generas, eres responsable de lo que le pides a la IA generativa, las respuestas pueden contener datos falsos conocidos como alucinaciones, sesgos, prejuicios o discriminación.

• Cuida tu Privacidad, no subir fotografías personales o intimas, porque puedes ser víctima de deep fakes.

• No compartir tus conversaciones, evita compartir tus conversaciones al público general o por redes sociales porque pueden que en el futuro sean accesibles mediante los motores de búsqueda.

• Evita información sensible, no compartas claves de seguridad o cualquier otro dato que sirva para verificar la seguridad de tus cuentas.

• Cuidado con los enlaces, las respuestas de la IA Generativa te pueden enlazar a malwares, códigos maliciosos o phishing que podría robar tus datos; revisa y verifica que los enlaces sean seguros.

• Recuerda, que algunas versiones o planes gratis de las IA Generativas más conocidos, utilizan los datos enviados para entrenar sus modelos, por lo que no se garantiza la seguridad y privacidad de sus datos; eso lo especifican en sus términos y condiciones.

Para Empresas o negocios

• Desarrollar una directriz en el uso de la IA Generativa.

• Desarrollar una estrategia de implementación y uso de IA Generativa.

• Ejecutar campañas de concientización del equipo o personal que utilizan IA Generativa.

• No utilizar versiones gratuitas, porque estos datos que se envían mediante chat son entrenados para mejorar la IA, a diferencia de planes de pago que incluyen seguridad y privacidad en el uso de los datos.

• Definir e implementar estándares de acceso a información crítica y su uso en la IA Generativa.

• Capacitación continua sobre ciberseguridad y protección de datos confidenciales.

• Aplicar buenas prácticas de Integridad de Datos.

• Implementar estándares de protección de datos.

Seguir estas buenas prácticas te ayudará a aprovechar los beneficios de la IA generativa mientras minimizas los riesgos para tu privacidad y seguridad.

Conclusiones

¡Listo! Estos fueron las estadísticas sobre la privacidad de datos en la IA Generativa, también quiero hacer énfasis en la aplicación de las buenas prácticas para el uso de responsable, proteger y cuidar tu información debe ser prioridad al mismo tiempo que puedes utilizar la IA como una herramienta que te ayuda a mejorar tu productividad.

---

Me interesa conocer tu opinión, suscríbete y deja tus comentarios.

¡Muchas Gracias! 🚀