Los 6 problemas de seguridad y privacidad sobre el uso de la IA que necesitamos abordar YA con el alumnado
El alumnado de ESO y Bachillerato, y en muchos centros también el de 5º y 6º de Primaria, está utilizando de forma habitual herramientas de inteligencia artificial como ChatGPT, Gemini, Copilot y otras.
Hemos detectado 6 situaciones de especial riesgo para su seguridad y privacidad, sobre las que no se les está advirtiendo ni facilitando formación. Sabemos cómo afrontar estas situaciones e incluso anticiparnos, pero necesitamos que la información llegue al alumnado.
Hemos desarrollado una sesión de 50 minutos en la que les mostramos los 6 problemas más urgentes y cómo prevenirlos o reaccionar cuando se producen:
- Ataques de inyección de prompts e inferencia, que permiten robar toda la información personal del alumnado mientras utiliza herramientas como ChatGPT, Gemini, Copilot y otras.
- Uso de herramientas de IA por parte de los departamentos de recursos humanos de universidades, empresas y otras entidades, para trazar perfiles psicológicos que afectan a la reputación digital y futuro a corto plazo del alumnado.
- Uso de herramientas de IA por parte de ciberdelincuentes aplicadas con la ingeniería social, que afectan seriamente a la seguridad del alumnado.
- El uso de herramientas para clonar la imagen de los adolescentes y luego realizar deepfakes, dañar la reputación digital o incluso extorsionar. El problema que supone la clonación de voz y las estafas afectan también a sus conocidos y familiares.
- El entrenamiento sistemático de herramientas de IA con las conversaciones que el alumnado mantiene con dichos sistemas, y cómo afecta a la protección de sus datos personales.
- El uso de herramientas de IA por parte del alumnado para realizar “jailbreak” o engaños lingüísticos para conseguir información peligrosa sin restricciones.
1. EL ROBO DE INFORMACIÓN A TRAVÉS DE ATAQUES DE INYECCIÓN DE PROMPTS.
La práctica totalidad del alumnado desconoce esta realidad. No saben que mientras chatean con una IA, otra persona podría acceder a su información. Al trabajar sobre este bloque damos respuesta a las siguientes preguntas:
¿Cómo se producen estos ataques y con qué frecuencia?
¿Qué información pueden llegar a obtener?
¿Cómo puedo defenderme, evitarlos o anticiparme?
2. EL ACCESO A LOS DATOS PERSONALES DEL ALUMNADO PARA TRAZAR UN PERFIL QUE CONDICIONA SU FUTURO.
El uso de herramientas de IA permite no solo obtener de forma muy rápida, textos, mensajes, publicaciones y fotos del alumnado, sino trazar un perfil psicológico que condiciona su REPUTACIÓN DIGITAL y, por tanto, su futuro. Respondemos a las siguientes preguntas:
¿Cómo impedir que una IA pueda trazar un perfil con mi información personal?
¿Cómo puedo hacer que mis fotos sean irreconocibles para una IA?
¿De que forma puedo proteger mi reputación digital?
3. EL USO DE TÉCNICAS DE INGENIERÍA SOCIAL CON HERRAMIENTAS DE IA POR PARTE DE CIBERDELINCUENTES AFECTA SERIAMENTE A LA SEGURIDAD DEL ALUMNADO Y DE SUS FAMILIAS.
Los ataques personalizados contra adolescentes son algo cada vez más frecuente. Pueden realizarse en pocos minutos y con poco esfuerzo, y permiten no solo obtener información personal sino llevar a cabo usurpaciones de identidad o acceder a información de los padres con facilidad. Trabajamos sobre las siguientes preguntas:
¿Cómo puedo diferenciar un mensaje real de uno generado por IA?
¿Cómo puedo protegerme ante una suplantación de identidad con IA?
¿De qué forma puedo proteger mi privacidad y la de mi familia?
4. EL USO DE HERRAMIENTAS PARA CLONAR LA IMAGEN DEL ALUMNADO Y LUEGO REALIZAR DEEPFAKES, DAÑAR SU REPUTACIÓN DIGITAL O INCLUSO EXTORSIONAR.
Cada vez es más frecuente la creación de imágenes nuevas a partir de la clonación del rostro de un compañero/a de clase, con las consiguientes consecuencias para ambas partes. Pero al margen se extienden las estafas realizadas a partir de audios con la voz clonada de personas que conocemos. Respondemos a preguntas como las siguientes:
¿Cómo puedo evitar que mi imagen sea clonada?
¿De qué forma puedo confirmar si un audio es original o una clonación de voz?
¿Cómo lograr la retirada de una imagen clonada perjudicial?
5. DURANTE SUS CONVERSACIONES CON LA HERRAMIENTA, EL ALUMNADO FACILITA MUCHA INFORMACIÓN PERSONAL QUE ES ALMACENADA, UTILIZADA E INCLUSO EXPORTADA POR LA IA.
Es importante determinar en qué servidores y de qué manera se almacena nuestra información personal. Existen formas de configurar la privacidad de estas herramientas, y otras prácticas, que reducen los riesgos de forma importante. Contestamos a preguntas como:
¿De qué forma podemos proteger nuestra privacidad mientras usamos la IA?
¿Qué configuraciones de privacidad nos interesan?
¿De qué otras formas podemos impedir que nuestra información sea utilizada?
6. CUANDO EL ALUMNADO INTENTA ENGAÑAR A LA HERRAMIENTA DE IA PARA OBTENER INFORMACIÓN SOBRE TEMAS NO PERMITIDOS CORRE VARIOS RIESGOS.
Intentar manipular o engañar a la IA para que facilite respuestas no autorizadas es lo que conocemos como “jailbreak”. Este tipo de prácticas que algunos llevan a cabo puede tener importantes consecuencias. Damos respuesta a cuestiones como las siguientes:
¿Qué sucede cuando intentamos manipular a la IA en contra de su programación?
¿Qué consecuencias puede tener para la seguridad del usuario?
¿Cuáles son además las consecuencias legales?
A lo largo de la sesión facilitamos no solo la información que el alumnado necesita para hacer frente a estas nuevas situaciones, sino que ponemos además a su disposición toda una serie de recursos y enlaces que le permiten reaccionar y dar respuesta a cada situación.
Si tiene interés en que el alumnado de su centro reciba esta formación en el curso 2026-2027, consulte la información y fechas disponibles a la mayor brevedad:
