Las caricaturas de ChatGPT y la privacidad: así es la nueva tendencia que normaliza la autoexposición online

Hace un año fue transformar una fotografía en una ilustración con estilo Ghibli. Ahora es dibujar una caricatura a partir de toda la información almacenada de un usuario. La última tendencia en redes sociales, seguida por millones de personas, pone a prueba el grado de conocimiento que ChatGPT tiene de los datos personales de cada uno. Un conocimiento que banaliza la exposición pública de información personal, y que OpenAI puede utilizar para entrenar sus modelos de IA y compartir a terceros.

La tendencia propone enviar a la IA una fotografía del usuario y pedirle que bucee en las conversaciones que tiene almacenadas, para dibujar una caricatura con toda la información de la que disponga. Esto sólo es posible si hemos dado permiso al chatbot para utilizar conversaciones y mensajes antiguos.

«Muchas personas perciben esta práctica como un juego creativo», explica a Verificat Itxaso Domínguez de Olazábal, experta en protección de datos y privacidad y asesora en la European Digital Rights (EDRi), una red por los derechos digitales en la Unión Europea. «Pero en realidad están pidiendo a un sistema automatizado que consolide y vuelva legible un perfil sobre ellas mismas», sigue, una acción que «normaliza un modo de autoexposición que, fuera de este contexto, probablemente generaría mucha más cautela».

La experta apunta a una «asimetría» en los datos que compartimos con la IA: «El usuario no tiene una visión clara ni completa de qué datos se emplean, con qué alcance ni con qué efectos futuros». La política de privacitat de OpenAI en Europa detalla que sus herramientas, entre las que se encuentra ChatGPT, recopilan “prompts (preguntas) […], archivos, imágenes, audio y vídeo”, entre otros datos personales, que pueden utilizar para prestar, analizar, mantener, mejorar y desarrollar los servicios de la empresa; prevenir fraudes, actividades ilegales o usos indebidos; y por cumplir con obligaciones legales, entre otras. Con estas finalidades, OpenAI puede compartir los datos con vendedores y proveedores de servicios, autoridades gubernamentales y entidades afiliadas.

El problema radica, apunta Domínguez de Olazábal, en que los datos «no se comparten en un solo momento consciente, sino de forma acumulativa a lo largo del tiempo». “Hay dudas razonables sobre si la mayoría de usuarios entiende realmente lo que está activando cuando participa en este trend”.

Emplear los datos personales para entrenar modelos de IA

ChatGPT permite desactivar el uso de las conversaciones privadas para el entrenamiento de los modelos de inteligencia artificial de OpenAI. Pero esto sólo afecta a las conversaciones que tengamos con el chatbot a partir del momento en que pongamos la limitación, apunta la empresa. No está claro qué sucede con los datos que ya se han utilizado para tal fin, tal y como explicamos en el caso de Meta.