Contenido inapropiado

Sin control de acceso

Las herramientas de IA están diseñadas para responder a casi cualquier solicitud del usuario, y carecen de mecanismos para verificar la edad de quien las utiliza. Un niño de diez años puede preguntar cómo funciona un cigarrillo electrónico y recibir instrucciones detalladas para usarlo, o un adolescente podría solicitar una descripción gráfica de un acto violento y obtener una narración realista. La IA no juzga, pero tampoco protege. Simplemente genera. Y en ese proceso, puede normalizar ante un menor de edad lo que no debería ser normalizado para niños y adolescentes.

Muchas familias tienen la creencia de que al estar alojadas en plataformas conocidas o requerir un registro básico, estas herramientas son seguras para sus hijos. Pero la realidad es muy distinta.

Por otro lado, algunas aplicaciones de IA generativa permiten también a los menores de edad generar imágenes hiperrealistas con contenidos sexuales o violentos sin exigir una verificación de edad. Los medios de comunicación se hacen eco con regularidad de casos en los que niños o adolescentes han generado imágenes de compañeras sin ropa.

El problema no termina ahí. Incluso cuando los desarrolladores incluyen advertencias o restricciones, los menores suelen encontrar formas sencillas de evitarlas. Basta con reformular una pregunta o usar sinónimos para burlar los sistemas de control. En el libro MIRA CON QUIEN HABLAN se recogen varios casos de obtención de información muy nociva para menores de edad, e incluso perjudiciales para adultos.

Se hace difícil controlar lo que un programa de IA puede mostrar si ni siquiera los adultos comprendemos del todo su alcance. Necesitamos que ese acceso a la IA que ya se está produciendo, sea claramente supervisado y tutorizado, y necesitamos también formación básica sobre estos problemas, tanto para las familias como para el propio alumnado y por supuesto para el profesorado.