La noia que va aconseguir arribar a Ceuta, alterada amb IA per vendre un improbable ‘somni europeu’

Diverses imatges d’una noia somrient amb un carnet verd a la mà a nom de Farah, on s’intueix la bandera europea i l’escut espanyol, corren per grups en àrab d’Instagram i Facebook que promouen el pas del Marroc a Espanya a través de Ceuta. Van acompanyades de textos en àrab que celebren el seu destí després d’haver creuat la frontera.

La imatge és una de les moltes que empren la cara de la mateixa noia per presentar un cas d’èxit de l’onada migratòria de finals de juliol a territori espanyol, però, com moltes altres, mostra senyals d’haver estat generada o alterada amb eines d’intel·ligència artificial. La noia que la protagonitza és la que mitjans i publicacions virals han identificat els darrers dies com a Farah, una jove d’Al-Araish  (Larraix, en català, una localitat marroquina situada entre Tànger i Tetuan), que va entrar nedant a Ceuta el 28 de juliol, dos dies abans que també ho fessin desenes de milers de persones.

Un vídeo d’El Faro de Ceuta la va captar somrient i fent el senyal de victòria amb els dits només arribar. Les imatges del mitjà local, reals, es van viralitzar ràpidament i, segons diverses investigacions, van ser reutilitzades com a material propagandístic fins al punt d’esdevenir una de les claus que va incitar al pas massiu els darrers dies de juliol. El vídeo real primer, i els deepfakes que se’n deriven després, construeixen una narrativa que presenta Espanya i Europa com un futur assegurat per a milers de joves nord-africans. T’ho expliquem!

La imatge amb el carnet mostra senyals d’IA

El carnet que sosté la noia a la fotografia replica el document identificatiu que reben les persones migrants que arriben a Ceuta i ingressen al Centre d’Estança Temporal d’Immigrants (CETI) de la ciutat autònoma, segons regula el reial decret 557/2011 en el seu article 266. Les similituds són evidents a partir d’imatges publicades per El Faro de Ceuta: una targeta verda, la bandera de la UE, el logo del que sembla el Ministeri de Treball, Migracions i Seguretat Social (ara Ministeri d’Inclusió, Seguretat Social i Migracions), i camps identificatius com nom, cognoms i nacionalitat.

Tanmateix, “aquesta dona no resideix al CETI”, expliquen des del departament de premsa del Ministeri d’Inclusió, Seguretat Social i Migracions en un correu a Verificat, asseverant que la imatge viral està manipulada amb IA.

Diversos detalls així ho suggereixen. Les lletres amb el nom del ministeri són indistingibles i tenen colors diferents dels reals, el camp que identifica el centre d’estança té caràcters il·legibles i no es correspon amb els detalls impresos realment (SEM CETI de Ceuta), i manquen les etiquetes “nom”, “cognom” i “país” als camps corresponents.

La imatge, no obstant això, no conté la marca d’aigua invisible SynthID que permet identificar sense marge de dubte un contingut sintètic, segons ChatGPT i Gemini, raó per la qual no podem confirmar que hagi estat generada amb aquest tipus d’eina.  

Una manipulació venuda enganyosament com a èxit migratori

La suposada fotografia transmet la idea que, amb l’ingrés al CETI, la noia ha completat el seu procés migratori i s’ha pogut establir a Espanya. En realitat, però, el pas pel centre temporal és només una parada necessària per ingressar al país per a les persones migrades de manera irregular a Ceuta i Melilla, i per als sol·licitants de protecció internacional i del reconeixement de la condició d’apàtrida (sempre que no tinguin documentació o una autorització que avali el seu trasllat a la península), mentre les autoritats en revisen les dades i expedient i n’avaluen la destinació, tal com estableix la normativa.

“En cap cas la permanència al CETI garanteix el trasllat a la península o la permanència en territori espanyol de les persones que s’hi troben acollides”, asseveren des d’Inclusió. De fet, Miguel Ángel Pérez, delegat del Govern a Ceuta, ja va explicar dimarts 4 d’agost que si les autoritats rebutgen atorgar la protecció internacional als residents al CETI, “s’incoaran els corresponents expedients de devolució”, en declaracions recollides per RTVE referents als procediments actius.

El procediment no és ràpid, inclús si la petició té èxit. De fet, la normativa no preveu un temps màxim d’estança. Les persones s’hi estan fins el seu trasllat.

Desenes de manipulacions amb la seva cara desprenen optimisme en grups de Facebook

La suposada fotografia al CETI és una de les moltes amb la cara de la mateixa noia que corren per grups i perfils de xarxes socials que publiquen en àrab, i que compten amb milers o desenes de milers de seguidors. Alguns suplanten la seva identitat a Instagram, Facebook i TikTok, i es presenten com el seu compte oficial. La Farah somrient a la platja, posant ben vestida pels carrers de Ceuta o jugant a futbol són només alguns exemples d’imatges manipulades que s’han fet servir en canals àrabs per crear una imatge optimista del futur que espera a Espanya a aquells qui s’arrisquin a creuar.

En altres casos és el text que acompanya les imatges falsejades el que dona ales a aquest imaginari: “He començat a treballar”, assegura una publicació d’un perfil de Facebook amb 24.000 seguidors que suplanta la noia. “Les autoritats espanyoles van decidir traslladar-la a Madrid […] i inscriure-la a un club esportiu”, assegura un altre perfil, en aquest cas d’un blogger amb 143.000 seguidors. 

Els comentaris contraposen aquest “somni europeu”, en paraules d’algunes de les persones que van travessar la frontera dia 30 de juliol entrevistades per NBC News, amb la manca d’oportunitats i llibertat que viuen Marroc. Aquesta falsa promesa no és nova. Constitueix un imaginari construït fa anys en la ment de les persones migrants, que un cop arriben a la seva destinació final es demostra irreal, tal com va trobar una investigació recent de Migration studies.

Tot i que la literatura científica no l’assenyala de manera clara com una de les motivacions per a la migració (ho és, en canvi, la manca d’oportunitats al país d’origen), sí que és un factor que contribueix a la desil·lusió i la frustració de les persones que, un cop migrades, avaluen la seva nova situació social a terres europees.

Perfils que suplanten la Farah i promouen la migració

Moltes de les imatges manipulades que es comparteixen aquests dies porten dues marques d’aigua: Trucks Zoom i Asala Media. Es tracta, en ambdós casos, de portals de Facebook que promouen la migració i comparteixen contingut fals o generat amb intel·ligència artificial a tal efecte.

El primer s’identifica ara de manera fraudulenta com el perfil oficial de Farah, i publica deepfakes d’ella pels carrers de Ceuta. Alguns dels vídeos més recents sumen milions de visualitzacions. Abans del 28 de juliol, en canvi, publicava contingut fet amb IA de camions i havia promogut la migració a través del port de Tànger.

El segon es defineix com un bloc personal, i publica imatges diàries de la noia identificada com a Farah, algunes de les quals tenen l’etiqueta de generades amb IA. Les barreja amb contingut d’actualitat com l’eclipsi o la Copa Africana de Nacions de futbol femení, que s’està disputant ara. En el context de la crisi de Ceuta ha publicat imatges i declaracions falses de Pedro Sánchez que inciten a la migració prometent “papers” i “dignitat” a qui creui la frontera.

Un vídeo real va esperonar l’arribada de migrants i va assentar les bases dels deepfakes

Les falses publicacions de la noia identificada com a Farah van proliferar després que El Faro de Ceuta publiqués a xarxes un vídeo on apareixia somrient i fent el senyal de victòria amb els dits poc després d’haver entrat nedant a Ceuta la nit del 27 al 28 de juliol. Les imatges reals, gravades pel mitjà, van ser claus per esperonar el pas massiu del 30 de juliol, segons un informe del Consell Nacional dels Drets Humans del Marroc, que en destaca l’ús propagandístic a xarxes socials, i una investigació de la startup espanyola Golden Owl, vinculada al Parc Científic d’Alacant, que les considera un dels disparadors del moviment.

Investigació elaborada per Marc Masip, Ona Sindreu Cladera i Marco Nurra