Este artículo tiene más de 6 meses
06/02/2026
|
Mariona Pina Herrero

Cada 42 segundos, Grok (la inteligencia artificial de X, antes de Twitter) genera una imagen de una mujer desnuda, según un estudio del Centro para Contrarrestar el Odio Digital. Durante 11 días (entre el 29 de diciembre al 8 de enero), la IA creó cerca de tres millones de imágenes sexuales explícitas, incluyendo al menos 23.000 menores, unas 190 por minuto. El gran volumen de imágenes comenzó después de que Elon Musk anunciara la nueva función: cualquier usuario podía utilizar Grok para editar imágenes en la plataforma en un clic.

La prevalencia de las deepfakes de carácter sexual es difícil de cuantificar, según un estudio de la revista New Media % Society. Sin embargo, la misma investigación (que revisa los estudios publicados) recoge dos cifras, ambas presentadas por empresas de ciberseguridad: un 96% de los deepfakes en 2019 eran sexuales, subiendo hasta el 98% en 2023, donde un 99% de las víctimas son mujeres. 

En España, los datos también permiten ver la penetración de las deepfakes: uno de cada cinco jóvenes afirma que se han compartido imágenes suyas creadas con IA sin consentimiento. Casos mediáticos como el de Almendralejo (Badajoz), donde 15 menores son acusados ​​de manipular y difundir imágenes creadas con IA de menores desnudas, ponen de manifiesto la gravedad de la problemática.

Cecilia Barba, periodista e investigadora predoctoral de violencia sexual digital en el Departamento de Comunicación de la Universidad Pompeu Fabra (UPF), aclara a Verificat que se trata de casos de violencia sexual. Para Barba, estos vídeos impactan en el imaginario colectivo y la vida de las mujeres: “No sólo se crea una imagen de las mujeres en torno a estos vídeos, sino que además se las acaba expulsando del entorno digital por miedo a ser víctimas de estas violencias”.

Desde Bruselas, la Comisión Europea anunció el pasado mes de enero una investigación sobre Grok y X a raíz de la creación de imágenes sexuales no consentidas. Por su parte, el presidente del Gobierno, Pedro Sánchez, declaró el martes 3 de febrero que el Ejecutivo está trabajando con la Fiscalía para abordarlo. 
Mientras, X incorporó el pasado 9 de enero un muro de pago para generar este tipo de imágenes, una decisión que, según lamenta Barba, «las convertía en un modelo de negocio». Des del 14 de enero estas deepfakes sexuales están bloqueadas, pero según el medio The Verge, el problema persiste e incluso ahora también afecta a los hombres como víctimas.

Què són en realitat les ‘deepfakes’? 

Las deepfakes, según el Instituto Nacional de Ciberseguridad (INCIBES), son «vídeos manipulados que se crean para engañar a los espectadores, haciéndoles creer que una persona específica, sea anónima o una figura pública, hace declaraciones o acciones que, en realidad, nunca han tenido lugar».

Estos vídeos llevan años circulando en el entorno digital, sobre todo en clave de humor. Sin embargo, la tecnología se ha simplificado y ha facilitado su creación, por lo que su producción es constante: se estima que los vídeos generados pasaron de 500.000 en 2023 a ocho millones en 2025, según DeepStrike, una empresa de ciberseguridad.

De acuerdo con la Comunidad Internacional de Seguridad de la Información (SGSI), la evolución de la tecnología deepfake tiene sus raíces en la convergencia de la inteligencia artificial, especialmente en el aprendizaje profundo, con un amplio conjunto de datos. Además, las redes sociales son grandes propagadoras de ese contenido.

Javier Díaz-Noci, catedrático de Comunicación y profesor de Derecho de la Información en la Universidad Pompeu Fabra (UPF), recuerda que una deepfake es ilegal cuando no existe consentimiento por parte de la persona afectada y tiene una finalidad manipuladora. Éstas prácticas se penalizan por la Ley orgánica 1/1982 (que se encuentra en trámite de actualización para adaptarla al entorno digitali), de protección del derecho al honor, la intimidad y la propia imagen.
El problema, señala Díaz-Noci, son los límites territoriales: si se crea en España y se conoce a su autor, se puede actuar, pero es difícil cuando se desconoce el país o la identidad del responsable. «La tecnología no tiene fronteras, pero la ley sí», concluye. Aunque la Ley de Servicios Digitales (DSA, por sus siglas en inglés) de la Unión Europea obliga a las plataformas a evitar la difusión de estos contenidos, “plataformas como X no siempre cumplen la normativa”, lamenta el catedrático.

Les ‘deepfakes’ com a font de desinformació

Para Lucía Ballesteros, profesora de la Universidad de Málaga (UMA) y experta en desinformación y postverdad, las deepfakes son una «perversión de la realidad»: contenidos manipulados, a menudo con inteligencia artificial, que tienen una «intención explícita de manipulación y desinformación con consecuencias a gran escala». Uno de los principales riesgos, indica, es la pérdida de la imagen y el vídeo como prueba fiable, algo especialmente preocupante en un contexto en el que “estos formatos son el principal lenguaje comunicativo de los jóvenes”. 

Este fenómeno contribuye a lo que Ballesteros describe como el peligro de llegar a una sociedad que nada se cree. Las deepfakes  complican la distinción entre lo real y lo que es falso, algo que afecta a la confianza pública. 

Javier Díaz-Noci, profesor de Derecho de la Información en la UPF, señala que el verdadero peligro no está sólo en si los vídeos son o no creíbles, sino en su capacidad de consolidar narrativas. «Un vídeo no realista tiende a reforzar el sesgo de confirmación», explica. Aunque todo el mundo sepa que una escena concreta no ha ocurrido, si encaja con ciertos marcos ideológicos, contribuye a legitimar discursos.

Varios estudios, tal y como ilustra una revisión sistemática (que presenta la evidencia académica que existe sobre un tema), alertan de que las deepfakes distorsionan la percepción pública, erosionan la confianza en las instituciones y pueden alterar procesos electorales, convirtiéndose en una herramienta clave en campañas de influencia.

Para Ballesteros, la calidad de una democracia depende también de la calidad de sus medios y de la información que recibe la ciudadanía. «La realidad que se construyen muchas personas jóvenes parte de estos vídeos», advierte, y recuerda que no se puede confundir el entretenimiento con el derecho fundamental a estar bien informado para poder tomar decisiones responsables, como votar. Tal y como alerta la UNESCO, las deepfakes erosionan los mecanismos por los que las sociedades construyen su aprendizaje compartido.

Icono de Whatsapp

Envíenos por WhatsApp lo que quiera verificar y nos pondremos con ello
695 225 233

Educación en la era de la desinformación
Proyectos de alfabetización mediática e informacional para promover una ciudadanía crítica
Desfake
Icono de corazón de donación
Le necesitamos

Con su aportación contribuirá a un debate político más saludable y ayudará a impulsar proyectos educativos para enseñar a navegar el caos informativo y a defenderse de la desinformación.

Artículos relacionados

No se han encontrado artículos relacionados

Especiales

No se ha encontrado nada