Preguntes i respostes sobre ChatGPT Teen: què hi diuen els experts?

Actualitzat l’1 de setembre de 2026, a les 12.14 h, arran de l’anunci de la Comissió Europea segons el qual ChatGPT passa a estar classificat com a «motor de cerca de gran dimensió» (VLOSE, per les sigles en anglès).

La protecció dels menors a l’entorn digital és una prioritat per a institucions i famílies. Les grans tecnològiques saben que els ulls estan posats en com els seus productes, des de les xarxes socials fins als xatbots, poden afectar els més joves. N’és un exemple el judici contra Meta pels possibles danys que les seves plataformes tenen en infants i els canvis que Zuckbergerg ha promès aplicar per evitar-los.

Dies abans, el 18 d’agost, OpenAI va anunciar el llançament ChatGPT Teen, una versió del seu xatbot pensada per als menors de 18 anys. La previsió és que aquesta versió s’activi automàticament quan el sistema detecti que l’usuari és menor d’edat, amb més proteccions davant de continguts com l’autolesió, el suïcidi, el sexe o les relacions romàntiques. També incorporarà funcions pensades per ajudar els adolescents amb els deures sense donar-los directament la resposta. 

Però aquestes mesures obren nous interrogants. Com sabrà ChatGPT que un usuari és menor? Què implica aquest coneixement en termes de privacitat? La versió per a adolescents genera menys dependència? Com es pot ajudar l’alumnat sense fer-li la feina? Les mesures seran suficients? T’ho expliquem amb l’ajuda de persones expertes!

Com sabrà ChatGPT que un usuari és menor? 

Per saber si un usuari és menor de 18 anys i poder establir límits i restriccions, ChatGPT utilitzarà un sistema de predicció d’edat que analitza diferents indicadors del compte, com ara els temes de les converses, les hores d’ús, la freqüència amb què es fa servir o el temps que fa que el compte està actiu. Si el sistema determina que l’usuari és menor, activarà automàticament l’experiència per a adolescents. OpenAI, però, reconeix que “cap sistema és perfecte” i que la predicció pot equivocar-se.

Això, en principi, no s’ha de traduir en més invasió de la privacitat, explica a Verificat René Serral, expert en ciberseguretat i professor de la Universitat Politècnica de Catalunya (UPC), L’empresa ja disposa d’informació derivada de l’ús de ChatGPT i les converses anteriors si no és que desactivem les “memòries guardades”, recorda, de manera que la novetat, simplement, és que ara aquestes dades també poden intervenir explícitament en la predicció de l’edat. L’expert també recalca que altres plataformes com les xarxes socials fa anys que recullen dades similars.

Open AI contempla alhora l’opció d’acreditar l’edat presentant un document d’identitat o una fotografia estil selfie. Segons l’empresa, aquesta informació s’eliminarà en un termini de set dies. 

Per a Azucena Vázquez, doctora en Educació i Tecnologies Digitals per la UOC, la pregunta clau és quin grau d’intrusió estem disposats a acceptar per protegir un menor i qui ha de fixar aquest límit. La investigadora puntualitza que en el cas de la Unió Europea, aquest sistema de predicció i verificació d’edat ha d’adaptar-se a l’ecosistema regulador, definit pel Reglament d’Intel·ligència Artificial (AI Act) i el Reglament General de Protecció de Dades (RGPD), i les seves successives modificacions. Els textos marquen límits basats en la minimització de dades, el dret a oposar-se o la sobirania i eliminació de dades. A més, a 31 d’agost, la Comissió Europea ha classificat ChatGPT com un «motor de cerca de gran dimensió» (VLOSE, per les sigles en anglès) i, per tant, haurà de complir les obligacions establertes pel Reglament de Serveis Digitals (DSA).

Quins continguts es vetaran?

OpenAI assegura que ChatGPT Teen aplicarà més restriccions als continguts delicats o inadequats per a menors, però no detalla en quina mesura. Entre aquests, hi ha la violència gràfica, els reptes virals que poden fomentar conductes de risc i els jocs de rol sexuals, romàntics o violents. També es limitaran els continguts que promoguin estàndards de bellesa extrems, dietes poc saludables o la vergonya corporal. 

Però l’experiència ens diu que crear un entorn específic per a menors no garanteix que aquests continguts no hi arribin. En altres plataformes dirigides a infants, investigacions han detectat continguts inadequats malgrat els sistemes de filtratge. És el cas, per exemple, de YouTube Kids, on els infants estan exposats a continguts inadequats, incloent-hi publicitat i violència, segons un estudi de Common Sense Media publicat el 2020.

Antoni Baena, coordinador del Comitè d’ePsicologia del Col·legi Oficial de Psicologia de Catalunya i director del Màster de Salut Digital de la UOC, valora positivament les intencions per limitar els continguts nocius, però alerta a Verificat que aquests no haurien d’estar disponibles en cap versió de ChatGPT, tampoc en la dirigida a les persones majors d’edat. Enguany s’han conegut casos de persones adultes que han mantingut converses amb xatbots abans de suïcidar-se.

ChatGPT Teen reduirà la possible dependència dels adolescents amb els xatbots? 

La informació publicada per OpenAI no detalla cap mesura concreta per reduir la possible dependència o vinculació emocional dels adolescents amb el xatbot i, de moment, l’empresa tampoc no ha respost a la petició formulada per part de Verificat. 

Segons un estudi de GAD3 fins al 30% dels joves a l’Estat espanyol fa servir la IA per parlar de temes personals. Això comporta riscos, ja que ChatGPT no està dissenyat per imitar ni substituir les relacions humanes, tal com reconeix la mateixa empresa. De fet, pot promoure el pensament conspiranoic, segons una investigació del Washington Post. “La seguretat no depèn només del contingut de les respostes, sinó també del vincle que l’eina pot generar amb l’adolescent”, alerta Vázquez.

Baena, del Col·legi Oficial de Psicologia de Catalunya, considera que conversar amb una IA no és necessàriament negatiu. El risc apareix quan les respostes són inadequades o massa simplistes, o quan el sistema tendeix a validar excessivament l’usuari, un fenomen conegut com a sycophancy. Per això, l’expert advoca per revisar el disseny de l’eina. Entre les possibles mesures, apunta a incorporar mecanismes per regular-ne l’ús, com ara controls sobre el temps de conversa. 

Com funcionarà ChatGPT Teen en clau educativa?

Aquesta versió també incorpora el “Mode Estudi”, pensat per ajudar l’alumnat en el procés d’aprenentatge en lloc de donar-li directament la resposta. Vázquez explica que aquesta proposta aborda un dels riscos de la IA generativa en l’educació: la delegació cognitiva, És a dir, deixar en mans de la tecnologia part del procés de pensar, raonar o resoldre una tasca. Un estudi recent del Centre for Economic Policy Research (CEPR) apunta que aquesta pràctica té conseqüències negatives: els estudiants que havien delegat més tasques acadèmiques a la IA, sis mesos després obtenien resultats aproximadament un 20% inferiors als exàmens.

Així, la doctora en Educació i Tecnologies Digitals per la UOC, valora positivament el plantejament del Mode Estudi, ja que fomenta que l’alumnat participi en el procés cognitiu en comptes de delegar-lo completament a la IA. 

La idea de fer servir la IA en el procés reflexiu i no com a substituta és la consigna que es dona a l’alumnat des de Desfake, el programa educatiu de Verificat. De fet, recentment, Mike Caulfield, creador de la metodologia SIFT, va proposar actualitzar el seu mètode de verificació d’informació incorporant-hi la IA, però sense deixar-li tot el pes. 

La qüestió serà comprovar si aquest plantejament pedagògic també funciona en la pràctica, tenint en compte que la meitat dels estudiants d’entre 14 i 18 anys assegura que la IA està “bastant” o “molt present” en la seva educació, segons l’informe Empantallados.

Aquesta versió ajudarà els joves a saber fer servir críticament el xatbot? 

Incorporar més proteccions als sistemes d’IA no implica un ús més conscient de l’eina. El pensament crític s’aprèn i es treballa, tal com promovem des de Desfake amb els nostres recursos educatius sobre IA . No es tracta de penalitzar-ne l’ús, sinó de valorar com s’ha fet servir, és a dir, si s’ha explicat per què s’ha emprat o com s’ha verificat la informació obtinguda, entre altres.

Vázquez afegeix la necessitat que aquestes eines també siguin més transparents respecte als límits del seu coneixement. «Demanem als joves que siguin crítics davant d’un sistema que respon amb fluïdesa i aparença de seguretat, fins i tot quan es pot equivocar”, conclou.

Article elaborat per Mariona Pina Herrero i editat per Marc Masip i Ruth Pérez Castro.