

En els últims mesos, la desinformació generada amb IA que els fact-checkers europeus han verificat ha crescut de manera sostinguda. Així ho assenyala l’Observatori Europeu de Mitjans Digitals (EDMO) en el seu darrer informe, i també ho hem pogut comprovar en l’actualitat més recent.
Només en les darreres setmanes hem vist imatges generades artificialment que es colen en mitjans tradicionals per il·lustrar l’accident ferroviari d’Adamuz; vídeos falsos sobre les grans nevades a Kamtxatka (Rússia); l’ús de la IA per part de Donald Trump per reforçar la narrativa que l’annexió de Groenlàndia és crucial per als Estats Units; vídeos virals ficticis que asseguren erròniament que Barcelona ha instal·lat capses de cartó per a persones sense sostre; o els consells inventats d’un ‘youtuber IA’ per a pensionistes.
En contextos excepcionals, la desinformació es propaga especialment de pressa a través de les xarxes socials i sovint supera la capacitat de verificació institucional, tal com assenyalen la Universitat Politècnica de València i la Universitat Internacional de València. En casos de desastres naturals, la desinformació fins i tot pot dificultar l’efectivitat de la gestió d’emergències.
Quins passos podem seguir?
Les eines d’IA generativa han millorat molt. Ja no és tan habitual trobar errors evidents com mans amb set dits o persones amb tres braços. En molts casos, les imatges poden semblar completament reals.
Encara no existeix un mètode infal·lible per diferenciar una imatge creada amb IA d’una fotografia autèntica. Tanmateix, hi ha certs indicis visuals i contextuals que ens poden ajudar a sospitar, tal com s’explica al recurs pedagògic de Desfake, el projecte educatiu de Verificat: “Com comprovar continguts creats amb IA”. La IA genera contingut a partir de patrons apresos d’altres imatges, que combina i reformula. Aquest procés, però, pot deixar pistes.
Davant d’un vídeo que ens porta a una reacció emocional o que ens genera dubte, podem fixar-nos en els aspectes següents:
- Comproveu si porta etiquetes com ara “generat amb IA”. A vegades ho indica l’usuari, i en altres casos és la mateixa plataforma qui ho assenyala.
- Observeu si hi ha elements borrosos, deformats o incoherents: objectes mal definits, cares estranyes o textos impossibles de llegir.
- Detecteu possibles contradiccions amb la llei física o la lògica: estructures desproporcionades, paisatges impossibles, ombres que no encaixen o objectes que apareixen o desapareixen sense sentit.
- Pregunteu-vos si l’escena és coherent amb el lloc, el clima, el moment temporal o el context en què suposadament s’ha produït.
- Reviseu si el contingut ha estat difós per mitjans de comunicació reconeguts o institucions oficials. Tal com indicia la BBC, és important fixar-se en l’usuari, atès que sovint pot ser un compte que promou aquest tipus de desinformació habitualment.
- Contrasteu si els fets coincideixen amb informacions verificades publicades per fonts confiables.
- Utilitzeu detectors de contingut generat amb IA com a suport, però tenint present que no són infal·libles i que sempre cal contrastar-ne els resultats.
Ulls crítics, sentit comú i lògica; la millor defensa
Davant l’actual panorama digital, qüestionar el que veiem és una eina clau per no caure en la desinformació. Javier Rando, investigador en seguretat de models IA a Anthropic i a l’Escola Politècnica Federal de Zúric, explica a Verificat que aplicar el sentit comú continua sent fonamental. En casos com el de les grans nevades a Rússia, assenyala que, tractant-se d’un esdeveniment d’alta rellevància mediàtica, és preferible confiar en imatges i vídeos difosos per canals oficials o fonts acreditades, molt més fiables que els continguts publicats per perfils personals a les xarxes socials.
Rando adverteix que vivim en un context de “gana d’informació ràpida”, que facilita la creació de relats enganyosos a partir d’imatges falses que acaben adquirint aparença de realitat. Per això, insisteix en la necessitat de mantenir una actitud crítica i actuar amb prudència davant dels continguts que es viralitzen amb rapidesa.
Tanmateix, sovint ens trobem amb informacions reals que la ciutadania es pensa que estan generades amb IA, com en el cas de la catàstrofe de la DANA. Més recentment, també amb els enfrontaments entre l’ICE i la ciutadania dels Estats Units, com han verificat organitzacions com Snopes, membre com Verificat de la International Fact-Checking Network (IFCN). Aquest fet posa de manifest la necessitat de ser persones crítiques davant la desinformació, sense caure en una actitud de total d’escepticisme. La qüestió no és “no creure res”, sinó ser capaços de dubtar quan hi ha indicis de desinformació.
Subscriu-te al butlletí de Desfake
Descobreix eines i consells pràctics per combatre la desinformació a l’aula. T’ajudem a dotar-te de recursos efectius per ensenyar als teus alumnes a identificar la informació falsa.
Envia'ns per WhatsApp el que vulguis verificar i ens hi posarem
695 225 233

