Les caricatures de ChatGPT i la privacitat: així és la nova tendència que normalitza l’autoexposició en línia

Fa un any va ser transformar una fotografia en una il·lustració amb estil Ghibli. Ara és dibuixar una caricatura a partir de tota la informació emmagatzemada d’un usuari. La darrera tendència a xarxes socials, seguida per milions de persones, posa a prova el grau de coneixement que ChatGPT té de les dades personals de cadascú. Un coneixement que banalitza l’exposició pública d’informació personal, i que OpenAI pot emprar per entrenar els seus models d’IA i compartir a tercers.

La tendència proposa enviar a la IA una fotografia de l’usuari i demanar-li que bussegi en les converses que té emmagatzemades, per dibuixar una caricatura amb tota la informació de què disposi. Això només és possible si hem donat permís al xatbot per emprar converses i missatges antics.

“Moltes persones perceben aquesta pràctica com un joc creatiu”, explica a Verificat Itxaso Domínguez de Olazábal, experta en protecció de dades i privacitat i assessora a la European Digital Rights (EDRi), una xarxa pels drets digitals a la Unió Europea. “Però en realitat estan demanant a un sistema automatitzat que consolidi i torni llegible un perfil sobre elles mateixes”, segueix, una acció que “normalitza una manera d’autoexposició que, fora d’aquest context, probablement generaria molta més cautela”.

L’experta apunta a una “asimetria” en les dades que compartim amb la IA: “L’usuari no té una visió clara ni completa de quines dades s’empren, amb quin abast ni amb quins efectes futurs”. La política de privacitat d’OpenAI a Europa detalla que les seves eines, entre les quals es troba ChatGPT, recopilen “prompts (preguntes) […], arxius, imatges, àudio i vídeo”, entre altres dades personals, que poden emprar per prestar, analitzar, mantenir, millorar i desenvolupar els serveis de l’empresa; prevenir fraus, activitats il·legals o usos indeguts; i per complir amb obligacions legals, entre altres. Amb aquestes finalitats, OpenAI pot compartir les dades amb venedors i proveïdors de serveis, autoritats governamentals i entitats afiliades.

El problema rau, apunta Domínguez de Olazábal, en què les dades “no es comparteixen un sol moment conscient, sinó de manera acumulativa al llarg del temps”. “Hi ha dubtes raonables sobre si la majoria d’usuaris entén realment què està activant quan participa en aquest trend”.

Emprar les dades personals per entrenar models d’IA

ChatGPT permet desactivar l’ús de les converses privades per a l’entrenament dels models d’intel·ligència artificial d’OpenAI. Però això només afecta les converses que tinguem amb el xatbot a partir del moment en què posem la limitació, apunta l’empresa. No és clar què succeeix amb les dades que ja s’han fet servir a tal efecte, tal com vàrem explicar en el cas de Meta.