Mans amb sis (o més) dits: així pots detectar imatges generades per intel·ligència artificial

La intel·ligència artificial també es pot fer servir per desinformar. Protegeix-te’n amb aquest senzill truc.

Qui vol desinformar buscarà totes les maneres possibles de fer-ho. Ja us hem explicat que el xatbot de ChatGPT, basat en text, es pot fer servir per generar notícies falses a gran escala. Ara ha arribat el torn de les intel·ligències artificials (IA) que són capaces de generar imatges sota demanda: persones, animals, paisatges… o qualsevol cosa que li demani l’usuari. Fixar-te en els detalls, com ara en les mans que hi apareixen, et pot servir per detectar si una imatge s'ha creat amb aquest tipus de programes.

La IA ha posat a l’abast de qualsevol persona la capacitat de generar imatges sense tenir coneixements d’edició ni cap referent real, només a partir d’un text que descrigui l’escena. Ara bé, els motors de generació no són perfectes, de moment, i prova d’això són els errors que fan a l’hora de reproduir detalls concrets a les fotografies com la forma de les mans o elements que no són el principal focus d’atenció.

Nina Lamparski, fact-checker i cap de l’equip d’Àfrica d’AFPCheck, va compartir a principis de febrer un tuit amb tres suposades imatges d’una manifestació en què els policies abracen els manifestants.

Les imatges semblen reals, però, fixant-nos en els detalls, podem veure que un dels policies té 6 dits a la mà esquerra. Al tuit, Lamparski destaca aquest detall (“la mà ataca de nou”) perquè és un error habitual: la intel·ligència artificial té grans dificultats a l’hora de representar aquesta part del cos.

Més exemples? Un altre usuari de Twitter va compartir unes fotografies generades per intel·ligència artificial d’unes noies en una festa. Mireu-les detingudament perquè hi ha coses que no encaixen.

A la segona imatge, la mà de la noia de l’esquerra no sembla real. A la tercera, la noia amb el vestit blanc té taques verdes al cos i la noia de la dreta aguanta el que sembla una càmera antiga amb una mà amb una desena de dits. A què es deu?

La intel·ligència artificial és capaç de generar contingut a partir dels patrons que “aprèn” d’altres continguts. Perquè aprengui a dibuixar una casa, per exemple, li podem donar desenes de milers de fotografies de moltes cases, i la IA es fixarà en tot allò que fa que una casa sigui una casa: parets, finestres, portes… A partir d’aquí, podria “dibuixar” contingut que compleixi aquestes característiques i, per tant, que es pugui considerar una casa.

El repte que una IA pot tenir a l’hora de representar certs elements rau en els possibles referents que pugui tenir dels mateixos i en la dificultat de poder-los identificar com a tal per la seva complexitat. Les mans són quelcom difícil de representar, fins i tot per a il·lustradors i dibuixants avançats, a conseqüència de la complexitat fisiològica de les mateixes i la gran quantitat de postures que poden adoptar. IA i artistes, doncs, comparteixen el mateix taló d’Aquil·les. Aquest fet ens recorda que, tot i els grans passos que ha fet la intel·ligència artificial aquests darrers mesos, encara és una tecnologia incipient que, en molts casos, necessita continuar millorant.

L’edició d’imatges i els fotomuntatges no són cap novetat, però sempre s’ha fet necessari tenir accés a unes eines o programari concret que, sumat a l’habilitat pròpia, permetia obtenir resultats més o menys convincents a partir d’imatges preexistents. La intel·ligència artificial facilita la creació de nous continguts a audiències inexpertes, però, com es diu habitualment, “un gran poder comporta una gran responsabilitat”. En aquest cas, la responsabilitat de no desinformar.

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *