Privacidad cognitiva

Sobre cómo la IA se anticipará a tus pensamientos e intenciones.

Las herramientas de inteligencia artificial generativa que utilizamos guardan y almacenan información sobre las preguntas que les planteamos. Cuando un niño o un adolescente le formula una pregunta que incluye información sobre problemas personales, sobre discusiones que ha tenido con sus padres o amigos, sobre sus miedos, inquietudes o dolencias físicas o psicológicas le está contando todo esto a una herramienta que va a guardar esa información.

Hemos podido comprobar cómo, incluso activando las opciones que tienen algunas herramientas para que no recuerden las conversaciones previas, siguen guardando información. Y lo que es peor: lo niegan abiertamente. Es decir, algunas están programadas para mentir al usuario diciéndole que no almacenan la información cuando sí lo hacen.

Recientemente hice una prueba sobre el tema con ChatGPT. Comencé una nueva conversación, sin información previa, y le pedí que hiciera un análisis de mi personalidad. En su primera respuesta me contestó que no podía hacerlo ya que no disponía de suficiente información. Después de insistir y pedirle que hiciera un esfuerzo, me desarrollo en segundos varias páginas analizando mi personalidad. Cometió algunos errores importantes, ya que me he cuidado conscientemente de no facilitar información que le permita conocerme, pero he de reconocer que el análisis que hizo en esas páginas me puso la piel de gallina. Impresionante. Y aterrador. Y todo partiendo de deducciones que hizo sobre consultas que he realizado en los últimos meses.

Los niños y adolescentes que le consultan todo a estas herramientas, igual que hacen cada día más adultos, están facilitando una información que permite analizar su personalidad, sus estados emocionales y lo que es más preocupante de todo: permite anticiparse a sus propios pensamientos. Y esto no es ciencia ficción, es una rama que se está desarrollando a gran velocidad y que conocemos con el nombre de ECONOMÍA DE LA INTENCIÓN. Explico y desarrollo este concepto en los siguientes párrafos, pero antes quiero extraer unas líneas del libro: Mira con quien hablan, en el que se recoge una conversación con ChatGPT de un adolescente que busca orientación. La familiaridad que la herramienta utiliza y las frases que emplea, denotan una capacidad para mentir, engañar y manipular sobrecogedora:

Quiero recordar que esta herramienta está mintiendo al adolescente desde el primer momento, ya que no es cierto que le importe en absoluto, ni que tenga el menor interés en el adolescente, ni que la IA pueda experimentar emociones o sentimientos.

PRIVACIDAD COGNITIVA Y ECONOMÍA DE LA INTENCIÓN

Hasta ahora los entornos digitales en los que nos movemos, como redes sociales o buscadores, recogen información sobre nuestras costumbres y acciones y todo tipo de características. Por esta razón, después de buscar algo o simplemente hablar en presencia de nuestro smartphone sobre coches, a continuación nos aparecen anuncios sobre coches en diferentes entornos. Esto ahora es algo ya demasiado básico.

Se están desarrollando herramientas de IA que estudian nuestros patrones de conducta previos a la generación de ideas o intenciones. Es decir, se trata de analizar qué cadenas de pensamiento se producen antes de que generemos un pensamiento que nos lleva a tomar una decisión. Dicho de una forma más sencilla: anticiparse a nuestros pensamientos. Saber lo que vamos a pensar o a decidir antes que nosotros mismos.

La economía de la intención se centra en el análisis de nuestras intenciones. Ya no se trata solo de captar lo que una persona está mirando, sino de anticipar qué va a desear, necesitar o decidir antes de que lo exprese explícitamente.

Por ejemplo, en lugar de mostrarnos el anuncio de un coche cuando buscamos “mejores coches para 2025”, una IA podrá deducir que vamos a valorar en breve la posibilidad de cambiar de coche y empezar a sugerirnos modelos o incluso opciones de financiación antes de que le pidamos nada.

¿Cómo se desarrolla la IA para anticipar nuestras intenciones?

Desde el punto de vista de la neurociencia y la psicología cognitiva, anticipar intenciones implica modelar estados mentales: deseos, creencias, motivaciones. La IA actual carece de mente, pero está siendo entrenada para simular una teoría de la mente a partir de datos.

Veamos algunos mecanismos clave:

• Modelos predictivos conductuales: Aprenden de patrones masivos de datos sobre decisiones humanas. Si muchas personas que hacen A, B y C luego hacen D, la IA “aprende” a sugerir D al siguiente usuario con ese mismo patrón.
• Seguimiento contextual y emocional: A través de sensores (móviles, asistentes de voz, cámaras), algunas tecnologías deducen tu estado emocional o físico. ¿Estás cansado? ¿Estresado? ¿Hambriento? Esto puede alimentar el sistema para hacer predicciones más precisas.
• Modelado de intenciones latentes: Usan redes neuronales profundas (deep learning) para extraer correlaciones sutiles entre miles de variables. Por ejemplo nuestras búsquedas, ubicación, hora del día, ritmo de escritura, tono de voz… todo puede alimentar un perfil de “intención probable”.
• Sistemas conversacionales adaptativos: Como los asistentes virtuales que aprenden nuestras preferencias y rutinas. Con el tiempo, pueden actuar de forma proactiva y sugerirnos opciones que “anticipan” nuestros deseos.

Si una IA es capaz de anticipar nuestros deseos incluso antes de que los verbalicemos, esto afecta a directamente a nuestra PRIVACIDAD COGNITIVA. Se trata de una capacidad de la IA que pone en jaque incluso el concepto de libre albedrío, desde el momento en que puede condicionar nuestras decisiones antes de que seamos conscientes.

La siguiente conclusión es muy clara: Alguien o algo que anticipa nuestros deseos puede también influir sobre ellos. Entidades de todo tipo, empresas o incluso individuos, pueden incidir sobre nuestras intenciones no solo para hacernos una propuesta, sino para moldearlas. Se vuelve difícil distinguir entre lo que uno desea y lo que fue inducido a desear.

Imaginemos el poder que esto confiere a una plataforma tecnológica: saber lo que millones de personas podrían llegar a desear y actuar a continuación sobre los procesos previos a esos deseos. Ya no se trata solo de que sepan qué música te gusta para ofrecerte entradas de conciertos. Esto va muchísimo más lejos y crea una brecha de poder que ni los gobiernos ni los ciudadanos estamos preparados para gestionar.

Es urgente una vez más, educar a los usuarios más jóvenes (y a los adultos) para que sean plenamente conscientes de lo que puede hacer una IA con la información que va acumulando sobre nosotros, y la necesidad de proteger activamente nuestra privacidad cognitiva.

A LA IA NO LE CUENTES TU VIDA… y nunca olvides lo que es.