‘Deepfakes’: de l’assetjament a la desinformació

Cada 42 segons, Grok (la intel·ligència artificial d’X, abans Twitter) genera una imatge d’una dona despullada, segons un estudi del Centre per Contrarrestar l’Odi Digital. Durant 11 dies (entre el 29 de desembre al 8 de gener), la IA va crear prop de tres milions d’imatges sexuals explícites, incloent-hi almenys 23.000 de menors, unes 190 per minut. El gran volum d’imatges va començar després que Elon Musk anunciés la nova funció: qualsevol usuari podia utilitzar Grok per editar imatges a la plataforma en un clic.

La prevalença de les deepfakes de caràcter sexual és difícil de quantificar, segons un estudi de la revista New Media & Society. Tanmateix, la mateixa investigació (que revisa els estudis publicats) recull dues xifres, ambdues presentades per empreses de ciberseguretat: un 96% de les deepfakes el 2019 eren sexuals, pujant fins al 98% el 2023, on un 99% les víctimes són dones. 

A Espanya, les dades també permeten entreveure la penetració de les deepfakes: un de cada cinc joves afirma que s’han compartit imatges seves creades amb IA sense consentiment. Casos mediàtics com el d’Almendralejo (Badajoz), on 15 menors són acusats de manipular i difondre imatges creades amb IA de menors despullades, posen de manifest la gravetat de la problemàtica.

Cecilia Barba, periodista i investigadora predoctoral de violència sexual digital al Departament de Comunicació de la Universitat Pompeu Fabra (UPF), aclareix a Verificat que es tracta de casos de violència sexual. Per a Barba, aquests vídeos impacta en l’imaginari col·lectiu i la vida de les dones: “No només es crea una imatge de les dones al voltant d’aquests vídeos, sinó que a més se les acaba expulsant de l’entorn digital per por a ser víctimes d’aquestes violències”.

Des de Brussel·les, la Comissió Europea va anunciar el passat mes de gener una investigació sobre Grok i X arran de la creació d’imatges sexuals no consentides. Per la seva banda, el president del Govern espanyol, Pedro Sánchez, va declarar el dimarts 3 de febrer que l’executiu està treballant amb Fiscalia per abordar-ho. 

Mentrestant, X va incorporar el darrer 9 de gener un mur de pagament per generar aquesta mena d’imatges, una decisió que, segons lamenta Barba, “les convertia en un model de negoci”. Des del 14 de gener aquestes deepfakes estan bloquejades, però segons el mitjà The Verge, el problema persisteix i, fins i tot, ara també afecta els homes com a víctimes. 

Què són en realitat les ‘deepfakes’? 

Les deepfakes, segons l’Institut Nacional de Ciberseguretat (INCIBE), són “vídeos manipulats que es creen per enganyar els espectadors, fent-los creure que una persona específica, sigui anònima o una figura pública, fa declaracions o accions que, en realitat, mai han tingut lloc”.

Aquests vídeos ja fa anys que circulen en l’entorn digital, sobretot en clau d’humor. Tot i això, la tecnologia s’ha simplificat i n’ha facilitat la creació, de manera que la seva producció és constant: s’estima que els vídeos generats van passar de 500.000 el 2023 a vuit milions el 2025, segons DeepStrike, una empresa de ciberseguretat.

D’acord amb la International Information Security Community (ISMS), l’evolució de la tecnologia deepfake té les seves arrels en la convergència de la intel·ligència artificial, especialment, en l’aprenentatge profund, amb un ampli conjunt de dades. A més, les xarxes socials són grans propagadores d’aquest contingut.

Javier Díaz-Noci, catedràtic de Comunicació i professor de Dret de la Informació a la Universitat Pompeu Fabra (UPF), recorda que una deepfake és il·legal quan no hi ha consentiment per part de la persona afectada i té una finalitat manipuladora. Aquestes pràctiques estan penalitzades per la Llei orgànica 1/1982 (que es troba en tràmit d’actualització per adaptar-la a l’entorn digital), de protecció del dret a l’honor, la intimitat i la pròpia imatge.

El problema, assenyala Díaz-Noci, són els límits territorials: si es crea a Espanya i se’n coneix l’autor, es pot actuar, però és difícil quan es desconeix el país o la identitat del responsable. “La tecnologia no té fronteres, però la llei sí”, conclou. Tot i que la Llei de Serveis Digitals (DSA, per les seves sigles en anglès) de la Unió Europea obliga les plataformes a evitar la difusió d’aquests continguts, “plataformes com X no sempre compleixen la normativa”, lamenta el catedràtic.

Les ‘deepfakes’ com a font de desinformació

Per a Lucía Ballesteros, professora de la Universitat de Màlaga (UMA) i experta en desinformació i postveritat, les deepfakes són una “perversió de la realitat”: continguts manipulats, sovint amb intel·ligència artificial, que tenen una “intenció explícita de manipulació i desinformació amb conseqüències a gran escala”. Un dels principals riscos, indica, és la pèrdua de la imatge i el vídeo com a prova fiable, un fet especialment preocupant en un context en què “aquests formats són el principal llenguatge comunicatiu dels joves”. 

Aquest fenomen contribueix al que Ballesteros descriu com el perill d’arribar a una societat que no es creu res. Les deepfakes compliquen la distinció entre allò que és real i el que és fals, un fet que afecta la confiança pública. 

Javier Díaz-Noci, professor de Dret de la Informació a la UPF, assenyala que el veritable perill no està només en si els vídeos són creïbles o no, sinó en la seva capacitat de consolidar narratives. “Un vídeo no realista tendeix a reforçar el biaix de confirmació”, explica. Encara que tothom sàpiga que una escena concreta no ha passat, si encaixa amb certs marcs ideològics, contribueix a legitimar discursos.

Diversos estudis, tal com il·lustra una revisió sistemàtica (que presenta l’evidència acadèmica que hi ha sobre un tema), alerten que les deepfakes distorsionen la percepció pública, erosionen la confiança en les institucions i poden alterar processos electorals, convertint-se en una eina clau en campanyes d’influència.

Per a Ballesteros, la qualitat d’una democràcia depèn, també, de la qualitat dels seus mitjans i de la informació que rep la ciutadania. “La realitat que es construeixen moltes persones joves parteix d’aquests vídeos”, adverteix, i recorda que no es pot confondre l’entreteniment amb el dret fonamental a estar ben informat per poder prendre decisions responsables, com ara votar. Tal com alerta la UNESCO, les deepfakes erosionen els mecanismes per els quals les societat construeixen el seu aprenentatge compartit.