Fem de detectius: com detectar imatges generades amb intel·ligència artificial

La tecnologia avança a passos de gegant, i la intel·ligència artificial (IA) no n’és l’excepció. Aquest darrer any s’han posat de moda les imatges generades amb IA, que han inundat les xarxes enredant a molts usuaris. I és que aquesta eina s’ha anat perfeccionant i això provoca que els detalls visuals siguin cada vegada més acurats i treballats i dificultin la identificació dels fakes. Per això, quan ens trobem davant d’una imatge que sospitem que pot ser falsa, serà essencial fixar-nos en el context. De moment, les eines amb què comptem per detectar imatges modificades no són prou eficients, i per això cal desenvolupar aplicacions més precises.

El sol fet que existeixin les IAs generatives posa en relleu les dificultats per distingir realitat i ficció, i els perills que això comporta.

Ull al detall

A continuació us donem algunes pistes per detectar imatges generades amb IA. Si bé aquestes poden ser una eina útil, és cert que la IA està evolucionant ràpidament i, per això, aquests trucs s’han d’agafar amb pinces, ja que poden ser insuficients en un futur proper.

• Mans i altres parts del cos: si són irreals, o tenen més o menys dits del normal. El mateix amb les dents: si n’hi ha masses o massa poques, si es veuen de manera difosa o borrosa. Les IA es troben amb dificultats per representar correctament les orelles i les articulacions.
• Textos illegibles: molts cops apareixen de manera difosa, illegible o amb caràcters inventats.
• Proporcions: ens podem fixar si el cos té una mida proporcional, o si, per exemple, el cap és massa gros en comparació a la resta.
• Fons: en les imatges generades per IA, el fons sol estar difuminat i en general té pocs detalls. A més, poden aparèixer elements distorsionats o personatges estranys.
• Imatges de mala qualitat: si està lleugerament borrosa, o té mala resolució.
• Salts de qualitat i nitidesa: es veuen bé les faccions? Hi ha una part de la imatge més distorsionada?
• Expressions facials exagerades: si demanem a la IA una imatge d’un rostre amb una expressió, sol exagerar-la. 
• Llums i ombres: en general, les IAs no ubiquen bé les llums i les ombres en les imatges. Fixar-nos en la perspectiva seria una bona manera de detectar-ho.
• Realització simplificada: en el cas dels vídeos, si la gravació és massa simple, podria tractar-se d’un engany. Si el pla és massa frontal, la llum és molt plana, el cap gairebé no gira, les mans mai passen davant de la cara… podria ser fet amb l’objectiu de minimitzar els errors generats per la IA.
• Reflex dels ulls: podem mirar si el reflex es correspon o no amb l’entorn. Aquest truc és especialment útil, ja que resulta molt complicat representar-ho de manera realista.

Tingues en compte el context

Com hem dit, aquestes eines poden ser útils ara mateix, però cada vegada ens serviran menys per detectar els deepfakes. Per això, el més important serà fixar-nos en el context i fer-nos algunes preguntes.

Fem una lectura crítica de la imatge. És factible? Ens desperta alguna emoció? Recordem que aquest sol ser l’objectiu principal de la desinformació, així que compte si ens sentim d’una determinada manera en veure-la.

L’origen de la imatge (qui l’ha fet) serà important, com també disposar d’altres fotografies de l’entorn des de perspectives diferents. Podem comprovar el lloc des d’on s’ha fet la foto, per veure si realment existeix aquella ubicació. També podem fer feina de detectiu i buscar si el personatge estava allà o si té una “coartada” que demostra que es trobava en un altre lloc.

Si en la imatge apareix un personatge públic, altres mitjans se n’haurien d’haver fet ressó: amb una senzilla cerca a algun buscador, hauríem de poder trobar més webs que en parlin. Si només trobem la imatge en una font, podria ser indicatiu de fake.

Existeixen multitud d’exemples d’imatges que s’han generat amb IA, i fa tan sols uns dies us explicàvem uns passos bàsics per detectar si una imatge podia haver estat generada amb intel·ligència artificial (IA). Caldrà estar més atents que mai a les imatges que rebem.