Diferenciar lo que es real

El problema de la información falsa

La creación de imágenes y vídeos que parecen reales con programas de IA generativa conlleva diversos problemas. Uno de los principales inconvenientes es que estas imágenes falsas pueden ser utilizadas para engañar a personas y difundir información falsa o manipulada.

Las FAKENEWS están entrando ya en otro nivel. Se trata de un tipo de información tremendamente creíble, y puede facilitar la difamación de individuos o grupos específicos. También puede ser utilizada en campañas de desinformación política. Por otro lado, las imágenes generadas pueden utilizarse para crear perfiles falsos en redes sociales, con el objetivo de difundir información engañosa o para acosar a personas. Estas imágenes pueden ser utilizadas para el fraude y la falsificación de documentos, por ejemplo. Las imágenes con apariencia realista pueden hacer que sea más difícil para cualquiera distinguir entre lo que es real y lo que es falso. Esto puede tener un impacto negativo en la confianza de los ciudadanos y puede facilitar la manipulación y la propaganda. Por supuesto, las imágenes falsas no son nuevas y siempre han sido utilizadas con fines engañosos, pero ahora la IA generativa permite crear fotografías y vídeos de alta calidad y muy realistas, complicando su identificación, y acelerando los procesos de desinformación.

Merecen una atención especial las DEEPFAKES.

Una deepfake es una técnica de inteligencia artificial que se utiliza para crear imágenes falsas que parecen auténticas. La cara de una persona se superpone en el cuerpo de otra persona, lo que puede crear la ilusión de que la persona está diciendo o haciendo algo que nunca hizo. Esta técnica se ha utilizado con frecuencia para crear videos falsos de personas famosas, políticos o líderes mundiales, con fines engañosos.

Aunque la tecnología de deepfake se utiliza principalmente con fines de entretenimiento, también puede tener implicaciones negativas en la sociedad. Los deepfakes pueden ser utilizados para dañar la reputación de alguien. Además, también pueden ser utilizados con otros fines malintencionados, como el acoso o la extorsión.

• El 40% de los españoles no pueden distinguir entre una noticia real y una falsa. (1)
• Solo el 0,1% de las personas es capaz de detectar con precisión las deepfakes generadas por IA. (2)
• En 2024, una de cada dos empresas a nivel mundial informó de incidentes de fraude deepfake, lo que revela una tendencia creciente en los delitos relacionados con la IA. (3)
• El 40% de la población española afirma haber estado expuesta a noticias falsas o desinformación a menudo o muy a menudo. ​(4)

Fuentes: (1) Agencia Asesores. (2) iproov. (3) “The Deepfake Trends 2024” Regula. (4) Statista.