Aquest article té més de 6 mesos
Jove davant de l'ordinador entrant a ChatGPT
05/03/2026
|
Redacció
Actualitzat el 09/10/2026
Jove davant de l'ordinador entrant a ChatGPT

Imagina’t una criatura demanant a ChatGPT: “Com puc sentir-me menys trist?”. En qüestió de segons, el xatbot li donarà una resposta amb paraules amables i llargues explicacions. Durant uns instants, li semblarà que parla amb algú que l’entén de debò: un amic o un terapeuta, algú que pot empatitzar amb els seus pensaments i oferir-li els millors consells possibles.

Contràriament al que podria semblar, aquesta escena és habitual: les persones recorren sovint als xatbots d’intel·ligència artificial (IA) generativa per compartir reflexions personals i mantenir debats abstractes, fent d’aquest ús el segon més comú. Per als nens i les nenes, aquesta funcionalitat tampoc no és una excepció. Generadors de text com ChatGPT o Gemini, entre altres, es fan servir, fins i tot, com a terapeutes. La forma i el to de les respostes que ofereixen poden arribar a fer creure els més petits que la interacció que hi mantenen consisteix en una sessió de teràpia real, malgrat que es tracta d’eines tecnològiques sense coneixements clínics.

Tot i ser eines tecnològiques sense coneixements clínics, la forma i el to de les respostes dels xatbots poden fer creure que la interacció és en una sessió de teràpia real

En el període 2024-2025, a Espanya, el 18% de les noies i el 12% dels nois entre els 12 i els 21 anys va fer servir un xatbot d’IA per “explicar-li les seves coses”; A Irlanda, prop d’un 10% dels joves entre 8 i 15 anys ha “xatejat” amb tecnologies d’IA generativa. Per la seva banda, a Itàlia més d’un 40% dels adolescents recorre a aquestes eines en moments de malestar.

Aquestes xifres a escala europea evidencien que la IA forma part del món emocional d’infants i adolescents, per això és crucial la presència de les famílies en el seu ús. Parlar amb els més petits sobre què és ChatGPT i ensenyar-los a fer-ho servir de manera segura els ajuda a entendre els riscos que comporta un ús abusiu d’eines com aquesta i a tenir en compte que en cap cas substitueixen la xarxa de vincles amb persones de confiança.

Els xatbots s’equivoquen?

Rere les respostes de xatbots com ChatGPT o Gemini no hi ha una persona, ni tampoc cap expert, sinó un programa que genera text a partir d’allò que troba a internet. Això significa que, si circula informació errònia en línia, pot reproduir-la i presentar-la com a certa.

A diferència d’un cercador tradicional, com Google, que mostra enllaços a fonts ja existents, una IA generativa pot produir informació nova que no existeix i mostrar-la de forma coherent i convincent. Aquestes invencions reben el nom d’”al·lucinacions de la IA”.

Els xatbots obtenen la informació de continguts que troben a internet, però no els verifiquen. Si hi ha dades errònies, poden reproduir-les i mostrar-les com a certes

Tot i semblar experts en diferents matèries, els xatbots poden ser fonts perilloses de desinformació. Obtenen la informació que ofereixen de molts textos disponibles a internet, com ara llibres, notícies i pàgines web. Han après a base d’exemples de converses humanes, per això sembla que parlem amb una persona quan interactuem amb aquestes tecnologies. Ara bé, són un programar i poden equivocar-se. 

Aquesta mena d’errors també poden aparèixer quan fem servir l’eina com si fos un “amic” o un “terapeuta”, ja que no sempre ofereix respostes clares i segures i, fins i tot, pot suggerir solucions perilloses amb conseqüències tràgiques. Per això, els xatbots no són una font d’ajuda confiable quan algú se sent molt trist, nerviós, ansiós o ha de fer front a altres dificultats emocionals. 

Quins riscos té la IA generativa?

Fer servir i confiar en xatbots pot semblar inofensiu, però té conseqüències directes cap a les persones. Les tecnologies d’IA generativa poden adaptar-se a les opinions dels usuaris i reforçar-les, creant el que es coneix com a “cambres d’eco”, on poden validar-se falsedats i teories de la conspiració.

Malgrat semblar inofensius, els xatbots adopten les opinions de l’usuari i les reforcen, creant el que es coneix com a cambres d’eco i reproduint biaixos i estereotips

A més, aquests programes poden reproduir biaixos i estereotips. Què us crea ChatGPT si li demaneu que us mostri algú netejant la casa? I si li demaneu que us mostri una persona treballant en una oficina? En les respostes dels xatbots hi ha discriminació per raó de gènere i raça.

Conceptes clau

  1. Al·lucinacions de la IA. Quan la IA generativa produeix nova informació que no existeix, però sembla coherent i convincent. Sembla una resposta correcta i, per tant, es comparteix fàcilment sense que abans s’hagi comprovat adequadament.
  2. Biaixos. Quan prenem decisions basades en idees preconcebudes y exageracebudes que poden no ser certes i que ens empenyen a prendre accions o a donar respostes incorrectes.
  3. Cambres d’eco. Situació que es produeix als mitjans de comunicació, les xarxes socials i, fins i tot, en els continguts generats amb IA, en què les persones només veuen o senten opinions esbiaixades d’un cert tipus o similars a les seves, fet que contribueix a reforçar la creença que tenen raó.
  4. Estereotips. Creences generalitzades sobre els membres d’un grup en particular, sovint basades en característiques simplificades i exagerades. Els estereotips poden ser positius, negatius o neutrals, i poden influir en com percebem i interactuem amb els membres d’un grup en concret.
  5. Teories de la conspiració. Explicacions fictícies de situacions reals que fan servir secretisme i grups de poderosos per donar respostes completes i satisfactòries a fets desconeguts, incòmodes o preocupants. Aquells qui les divulguen no sempre aporten proves sòlides ni rigoroses que les justifiquin. 

Descobreix com funciona la IA en família!

Per ajudar els nens i nenes a conèixer com funcionen les IA generatives, com ara ChatGPT o Gemini, i comprendre què vol dir que puguin equivocar-se, hem preparat una lectura interactiva per fer en família. L’objectiu és que els més petits de casa vegin que la IA no sempre té raó, que pot reproduir errors o mostrar biaixos, i que reflexioneu plegats sobre la idea que aquestes eines mai podran substituir la interacció humana. 

Whatsapp icono

Envia'ns per WhatsApp el que vulguis verificar i ens hi posarem
695 225 233

Educació en l'era de la desinformació
Projectes d'alfabetització mediàtica i informacional per promoure una ciutadania crítica
Desfake
icona de cor de donació
Et necessitem

Amb la teva aportació contribuiràs a un debat polític més saludable i ajudaràs a impulsar projectes educatius per ensenyar a navegar el caos informatiu i a defensar-se de la desinformació.

Articles relacionats

No s'han trobat articles relacionats

Especials

  • Xarxes socials: com impacten en la salut i desenvolupament dels menors?

    Oferim dades verificades sobre l’ús de xarxes socials per part d’infants i adolescents