Fins a quin punt podem protegir les dades que compartim amb ChatGPT?

En els darrers dies, les xarxes socials s’han omplert de caricatures generades per ChatGPT a partir de la informació que té sobre nosaltres. Des de Verificat ja hem advertit del risc que aquesta tendència suposa per a la privacitat, ja que contribueix a normalitzar l’autoexposició en línia. Les persones expertes consultades per Verificat apunten que aquestes dinàmiques normalitzen una autorització implícita de l’ús de dades sense un consentiment clarament explícit.

Com a persones usuàries de models d’IA generativa, sabem quines dades es recopilen i quin ús se’n fan? Fins a quin punt podem protegir la informació personal que compartim amb la IA perquè no s’utilitzi, per exemple, per entrenar el sistema?

La IA pot emprar la informació que compartim amb ella de dues maneres: en les converses que hi mantenim, per oferir-nos una experiència més personalitzada; i en usos externs que no tenen a veure amb l’usuari, com entrenar el sistema. T’ho expliquem!

ChatGPT “recorda” allò que diem en una conversació activa, però no significa que ho guardi quan acabem el xat

Per personalitzar la conversa i mantenir-ne el fil, ChatGPT utilitza la informació facilitada dins d’un mateix xat. Això, però, no implica que la guardi en acabar. Tal com explica a Verificat Albert Sabater, director de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya de la Universitat de Girona (UdG), la personalització prové d’informacions detectades durant la conversa, no d’un aprenentatge continu de tot l’historial.

Una altra funció, però, és la “memòria”, que permet que la IA accedeixi a converses passades. Inclou les “memòries guardades” (on el xatbot “memoritza” informacions concretes que l’usuari li demana) i l’“historial del xat” (en què personalitza les respostes en funció de les converses passades). A la UE, aquesta memòria està desactivada per defecte pel Reglament General de Protecció de Dades (RGPD) de la UE i requereix activació explícita.

La configuració que permet utilitzar les dades per entrenar el model està activada per defecte

Ara bé, hi ha una altra configuració de ChatGPT que permet a OpenAI utilitzar les nostres dades i tot el que compartim amb el xatbot per entrenar al sistema, o com denominen a la configuració, “millorar el model per a tothom”. Aquesta configuració no necessita un consentiment, sinó que ve activada per defecte. És la persona usuària qui ha de desactivar-la.

Sabater explica que aquest ús implica que les converses s’analitzen per millorar el rendiment general del model, però, en principi, no es venen a tercers per a finalitats publicitàries ni per crear perfils comercials. L’empresa assegura a la seva política de privacitat que poden divulgar les dades personals a venedors i proveïdors de serveis “només quan exerceixin les seves funcions per nosaltres”; amb autoritats governamentals, empreses del sector o tercers “de conformitat amb la normativa aplicable”; o entitats afiliades, entre d’altres.

Recentment, OpenAI ha anunciat que inclourà publicitat als serveis GPT per als usuaris que no paguen subscripció, però ha aclarit que “es mantindran les converses amb ChatGPT privades davant dels anunciants”. 

Carles Ortet, enginyer en Informàtica i Electrònica per la UAB/UCC, que investiga l’arquitectura de computadores i computació paral·lela, assenyala un altre factor: les dades de comportament que poden recollir aquests sistemes, “les que conceptualitzen el comportament humà i personal”. Per Ortet, “no hauríem de deixar que ningú ens escanegés sense saber què passa amb aquella informació; però no només a la IA, sinó tampoc al mòbil o a les xarxes”.

És “tècnicament impossible” que es puguin esborrar totes les dades que la IA té sobre nosaltres

Segons el Reglament General de Protecció de Dades de la UE (RGPD) les persones usuàries tenen el dret a la rectificació i l’oblit en qualsevol moment de les seves informacions de la base de dades de la IA. És a dir, que si algú ha donat el consentiment a compartir les seves dades i després se’n retracta, té el dret a demanar a l’empresa que les esborri.

No obstant això, Sabater, l’expert en ètica i IA de la UdG, explica que “un cop les dades han estat utilitzades per entrenar el model, és tècnicament impossible eliminar-les completament, perquè queden integrades en els paràmetres del sistema”. D’aquesta manera, explica, “els usuaris poden exercir el dret de supressió sobre les còpies emmagatzemades, però no es pot treure allò que el model ja ha après sense reentrenar-lo sencer”.

Itxaso Domínguez de Olazábal, experta en protecció de dades i privacitat i assessora a la European Digital Rights (EDRi), coincideix amb Sabater: “una vegada certes dades s’han utilitzat per ajustar models, la supressió plena i efectiva es torna tècnicament i jurídicament complexa”. Aquest, alerta l’experta, és un dels punts on el discurs comercial sobre el control que té la persona usuària xoca amb els límits reals dels sistemes d’aprenentatge profund.

Open AI a la seva política de privacitat explica que es poden esborrar totes les informacions, però sense fer menció sobre què passa amb aquelles que ja han estat utilitzades. 

Consells pràctics per protegir les dades personals de la IA

Des de l’Agència de Ciberseguretat de Catalunya recomanen que, quan interactuem amb assistents d’intel·ligència artificial, procurem no compartir informació personal. Desactivar l’historial dels xats, revisar el contingut compartit anteriorment i controlar els permisos de les aplicacions amb IA són alguns dels consells de l’entitat.

Albert Sabater, de la UdG, recorda que cada plataforma té el seu propi enfocament sobre la gestió de la memòria, l’ús de les dades per a l’entrenament dels models i les opcions de control per a l’usuari. És important conèixer cada política de privacitat abans d’emprar l’eina per actuar amb consciència i seguretat, apunta. Per la seva banda, Ortet recomana fer servir eines d’IA de la Unió Europea que tinguin garanties i es regeixin per bones praxis.