Qui vol desinformar buscarà totes les maneres possibles de fer-ho. Ja us hem explicat que el xatbot de ChatGPT, basat en text, es pot fer servir per generar notícies falses a gran escala. Ara ha arribat el torn de les intel·ligències artificials (IA) que són capaces de generar imatges sota demanda: persones, animals, paisatges… o qualsevol cosa que li demani l’usuari. Fixar-te en els detalls, com ara en les mans que hi apareixen, et pot servir per detectar si una imatge s'ha creat amb aquest tipus de programes.
La IA ha posat a l’abast de qualsevol persona la capacitat de generar imatges sense tenir coneixements d’edició ni cap referent real, només a partir d’un text que descrigui l’escena. Ara bé, els motors de generació no són perfectes, de moment, i prova d’això són els errors que fan a l’hora de reproduir detalls concrets a les fotografies com la forma de les mans o elements que no són el principal focus d’atenció.
Nina Lamparski, fact-checker i cap de l’equip d’Àfrica d’AFPCheck, va compartir a principis de febrer un tuit amb tres suposades imatges d’una manifestació en què els policies abracen els manifestants.
The hand strikes again🖖: these photos allegedly shot at a French protest rally yesterday look almost real – if it weren't for the officer's six-fingered glove #disinformation #AI pic.twitter.com/qzi6DxMdOx
— Nina Lamparski (@ninaism) February 8, 2023
Les imatges semblen reals, però, fixant-nos en els detalls, podem veure que un dels policies té 6 dits a la mà esquerra. Al tuit, Lamparski destaca aquest detall (“la mà ataca de nou”) perquè és un error habitual: la intel·ligència artificial té grans dificultats a l’hora de representar aquesta part del cos.
Més exemples? Un altre usuari de Twitter va compartir unes fotografies generades per intel·ligència artificial d’unes noies en una festa. Mireu-les detingudament perquè hi ha coses que no encaixen.
Midjourney is getting crazy powerful—none of these are real photos, and none of the people in them exist. pic.twitter.com/XXV6RUrrAv
— Miles (@mileszim) January 13, 2023
A la segona imatge, la mà de la noia de l’esquerra no sembla real. A la tercera, la noia amb el vestit blanc té taques verdes al cos i la noia de la dreta aguanta el que sembla una càmera antiga amb una mà amb una desena de dits. A què es deu?
La intel·ligència artificial és capaç de generar contingut a partir dels patrons que “aprèn” d’altres continguts. Perquè aprengui a dibuixar una casa, per exemple, li podem donar desenes de milers de fotografies de moltes cases, i la IA es fixarà en tot allò que fa que una casa sigui una casa: parets, finestres, portes… A partir d’aquí, podria “dibuixar” contingut que compleixi aquestes característiques i, per tant, que es pugui considerar una casa.
El repte que una IA pot tenir a l’hora de representar certs elements rau en els possibles referents que pugui tenir dels mateixos i en la dificultat de poder-los identificar com a tal per la seva complexitat. Les mans són quelcom difícil de representar, fins i tot per a il·lustradors i dibuixants avançats, a conseqüència de la complexitat fisiològica de les mateixes i la gran quantitat de postures que poden adoptar. IA i artistes, doncs, comparteixen el mateix taló d’Aquil·les. Aquest fet ens recorda que, tot i els grans passos que ha fet la intel·ligència artificial aquests darrers mesos, encara és una tecnologia incipient que, en molts casos, necessita continuar millorant.
L’edició d’imatges i els fotomuntatges no són cap novetat, però sempre s’ha fet necessari tenir accés a unes eines o programari concret que, sumat a l’habilitat pròpia, permetia obtenir resultats més o menys convincents a partir d’imatges preexistents. La intel·ligència artificial facilita la creació de nous continguts a audiències inexpertes, però, com es diu habitualment, “un gran poder comporta una gran responsabilitat”. En aquest cas, la responsabilitat de no desinformar.
Envia'ns per WhatsApp el que vulguis verificar i ens hi posarem
695 225 233
