Les dones que no existeixen: com la IA recicla els vells estereotips de bellesa

Entre vídeos de gols i jugades del Mundial, a les xarxes triomfen els recopilatoris de fans a les graderies. Són dones perfectament il·luminades, pentinades i maquillades, mirant el partit o saludant a càmera, aparentment sorpreses o mirant a l’infinit sense expressió. Són de tot el món, i cadascuna porta la samarreta de la seva selecció i té els trets ètnics estereotipats del país que, suposadament, representa. Els vídeos, de pocs segons, reben milions de m’agrada i comentaris comentant quina és la més guapa o a quina prefereixen d’entre elles. La majoria, però, no existeixen: estan generades amb intel·ligència artificial.

És un dels trends de creació de vídeos del Mundial de futbol, segons va explicar EFE en un reportatge. A TikTok i Instagram n’hi ha centenars, i comptes dedicats exclusivament a generar-ne i desenes d’usuaris participant-hi. No és la primera vegada que es viralitzen vídeos generats amb IA de dones objectificades en un context molt masculinitzat que ocupa portades: en el món de l’esport, també ha succeït en el context dels Jocs Olímpics, així com durant la guerra d’Ucraïna i d’Orient Mitjà, amb dones a l’exèrcit amb uniformes sexualitzats.

No es tracta només de contingut sintètic presentat com a real, sinó que recicla i reforça estereotips de bellesa i de comportament de les dones, tant en aquests espais com a fora. Un article del 2021 escrit per dues investigadores del Berkeley Haas Center desenvolupa que una anàlisi de 133 sistemes d’IA d’entre el 1988 i el 2025 apunta que el 44% presenta algun tipus de biaix de gènere i el 26% combina biaix de gènere i racial. 

De fet, els estereotips també es reforcen en l’altra direcció: Maldita, membre com Verificat de la xarxa internacional de verificadors, també ha avisat que vídeos on es veuen homes sense samarreta a les grades del Mundial mentre dones igualment sintètiques els miren amb admiració són falsos.

Escuts esborrallats, pells sense textura i patrons repetitius: pistes per detectar la IA

En els vídeos de les fans o de les soldats, es poden detectar trets físics similars i uniformitzats, seguint les modes estètiques actuals, tot i la relativa varietat entre elles: solen ser dones primes, amb una cara simètrica, nas recte i de forma similar, llavis carnosos, mandíbula definida i pòmuls alts. En molts dels vídeos, el pit és un element central de les imatges, accentuat amb samarretes i uniformes modificats per tenir més escot que en els dissenys oficials o uniformes militars completament sexualitzats.

Tot i que cada vegada és més difícil identificar a simple vista que els vídeos estan generats amb IA, hi ha algunes pistes dins les imatges que poden apuntar cap al seu origen.

Una és la forma, les lletres i els colors dels escuts i les banderes de la roba i el fons dels vídeos, que sovint no corresponen amb el disseny real o tenen lletres il·legibles i esborronades.

Una altra manera d’identificar que el contingut és IA és mitjançant el detector d’OpenAI i Google, que detecten la marca d’aigua SynthID que el marca com a sintètic, en el cas de vídeos que no estan etiquetats com a generats amb IA per l’usuari o la plataforma. Verificat ha comprovat alguns dels vídeos que circulen a xarxes.

Una altra pista és la repetició en les mateixes imatges, amb grups de persones pràcticament idèntiques, perfectament simètriques, movent-se alhora de manera antinatural. Això passa perquè els models generatius solen crear textures i figures a partir de patrons apresos, i quan han de generar multituds o grups nombrosos, tendeixen a reciclar les mateixes solucions visuals diverses vegades. No totes les soldats de cap exèrcit tenen el cabell exactament igual, ni pràcticament el mateix rostre. 

Un possible indicador és que les pells i els materials poden tenir un aspecte excessivament uniforme, a diferència de la textura natural de la pell humana. També els moviments petits tendeixen a ser artificialment regulars i continus. La llum sol semblar és més uniforme que en la realitat i no correspon amb la il·luminació desigual d’un espai com un estadi, un edifici o un espai exterior.

Quan els vídeos tenen so, és útil fixar-se en si la veu i els moviments de la boca concorden, perquè sovint en els vídeos sintètics són completament diferents i no sincronitzats i poden indicar que està generat amb intel·ligència artificial.

Una imatge generada amb IA val més que mil paraules

A l’actualitat, “els estàndards estètics i d’atractiu s’aprenen i es reforcen cada cop més a través de les xarxes socials”, explica un article del 2026 a la revista de Recerca Interdisciplinar aplicada a la Medicina. A l’hora de comunicar el concepte de gènere, què vol dir ser home o dona i tot el que comporta, “sovint es comunica molt més eficientment mitjançant imatges que text”, expliquen els investigadors Larry G. Locke i Grace Hodgdon a la revista AI and Society.

La IA, en aquest cas, reforça estereotips estètics, sexualitzants i de comportament de les dones en un espai masculinitzat com històricament ho han estat l’esport o la guerra, i permetent als usuaris participar en un debat objectivitzant i comparatiu.

No hi ha espai per cossos no normatius, i aquesta homogeneïtzació no és inofensiva. Diverses revisions alerten que els ideals de bellesa poc realistes i la cultura de la comparació, contribueixen a la insatisfacció, l’autoobjectivació i problemes de salut mental, com documenta un article de la revista Indian Journal of Palliative Care. Una revisió de la literatura del 2023 sobre representacions mediàtiques de gènere constata que l’exposició a contingut de dones objectivitzat i sexualitzat s’associa amb interioritzar ideals d’aparença, adoptar actituds sexistes i tolerar més l’abús i la vergonya corporal, tant a nivell individual com cultural.

Abans de la popularització de la IA generativa com existeix actualment, els filtres anomenats “de bellesa” com Glamour Glow, disponibles a les xarxes des de fa anys i perfeccionats fins a passar desapercebuts, han provocat una homogeneïtzació de les imatges de les usuàries, suavitzant-ne la pell, afegint-hi maquillatge, ajustant la il·luminació i modificant la cara i el cos, repetint els mateixos canons estètics que ara es reprodueixen amb la IA, com explica un article al Journal of Obsessive-Compulsive and Related Disorders publicat el 2026.

L’abundància d’aquestes imatges falses ha provocat que la majoria de les dones percebi algun tipus d’influència de les xarxes socials en la seva autopercepció de la pròpia imatge. Els àmbits vinculats a l’estètica i la imatge corporal són altament influenciables, segons un informe de l’Institut de les Dones del 2025. De forma generalitzada, les enquestades van opinar que el físic és un tema principal, tant la seva cura, com a subjecte estètic, o com a objecte de crítica i burla.

La presència de les dones espais masculinitzats sempre ha estat una qüestió de debat i una font de discriminació. L’organització anglesa Kick it Out, que lluita contra la discriminació al futbol, va detectar el 2024 que gairebé la meitat de les dones fans havien experienciat comportament sexistes, incloent xiulades, assetjament, dubtar del seu interès per l’esport, i comentaris sexuals. A les Forces Armades, l’Observatori de la Vida Militar documenta anualment desenes de denúncies per assetjament i agressió sexual, i a xarxes trobem habitualment crítiques per la inclusió de les dones a les files.

El cos de les dones com a producte d’un algoritme esbiaixat

Quan un usuari demana a una eina generativa que crei un vídeo d’una fan de la selecció espanyola, equatoriana o sudafricana, l’algoritme fa servir els milions d’imatges i vídeos als quals té accés per detectar un patró segons les paraules clau rebudes i crear-ne de nous, imitant-los i repetint el mateix patró. Així, la IA destil·la codis culturals, estereotips de bellesa i criteris estètics i els condensa en les imatges que genera.

Els algoritmes actuen com intermediaris culturals, “activament definint què es veu com a bell o desitjable en una determinada comunitat”, donant forma a l’imaginari i reforçant canons estètics, indiquen els investigadors en sociologia i comunicacions Babar Hussain, Shahbaz Aslam i Abeeha Imran, a una investigació a Acta Psychologica del 2025. A més, apunten, els algoritmes solen reforçar i replicar ideals eurocèntrics, reflectint biaixos culturals i racials que “marginalitzen estètiques locals o pluralístiques”.

El contingut generat amb IA no és neutre: les dades amb què s’entrenen els sistemes poden estar esbiaixades, diversos estudis han detectat que els algoritmes tenen biaixos interns, i les idees pròpies de l’usuari també influeixen, indica un estudi del 2025 a Artificial Humans. “Com que els biaixos de gènere estan implícits en la nostra societat i cultura, formen part dels factors que influeixen en l’ús i enteniment de les tecnologies d’IA, que també queden incrustades amb els mateixos biaixos”, explica un article a la revista AI and Society del 2024. 

L’explotació de l’objectivització de les dones com a font d’ingressos

Darrere dels vídeos, més enllà d’un marc social i ideològic sobre el cos de les dones, hi ha una lògica econòmica. Els comptes que publiquen aquests vídeos aconsegueixen milions d’interaccions, que es converteixen en una font d’ingressos gràcies a programes per a creadors, que premien econòmicament els vídeos i els usuaris que generen tràfic. Així, els usuaris no necessàriament busquen crear la representació més real, sinó la que genera més volum d’interacció i comentaris al mínim cost. 

Tot i que TikTok exclou el contingut íntegrament generat amb IA de qualificar-se per ser monetitzat, la majoria dels vídeos de les fans i les soldats no estan etiquetats o identificats com a sintètics, així que els usuaris podrien estar rebent benefici econòmic igualment. Instagram, en canvi, permet monetitzar el contingut d’IA, només requereix que estigui etiquetat adequadament.