Cinc consells per reduir riscos a l’hora de fer servir xatbots d’IA

L’ús de la intel·ligència artificial (IA) generativa creix entre els joves. En certa manera, perquè aplicacions que els són familiars, com ara Google Search, WhatsApp o Snapchat, ja inclouen eines d’IA. Tenint en compte que, a Espanya, el 25% dels nens i nenes de nou anys ja fa servir IA generativa, una xifra que s’enfila fins al 50% als 13, les famílies han de prendre consciència dels riscos associats a l’ús excessiu i la dependència d’aquestes tecnologies.

Què has de tenir en compte abans de fer servir la IA

Podem confiar en el contingut creat amb IA?

La IA facilita la publicació de narratives convincents, però falses, a internet i a les xarxes socials. Els xatbots i els resultats de cerca basats en IA poden ser enganyosos, ja que se sostenen en informació esbiaixada, desactualitzada o incompleta i, a vegades, “al·lucinen” respostes quan li manquen dades.

A mesura que la IA s’entrena amb altres continguts creats per la mateixa IA, la informació falsa o distorsionada pot amplificar-se. Davant aquest escenari, la verificació de dades és clau. 

ChatGPT pot fer-li els deures?

Confiar en els xatbots d’IA per obtenir respostes pot minar la capacitat de resoldre problemes, el pensament crític i la creativitat dels nens i nenes. També incrementa el risc de plagi. Per això, encara que l’ús d’eines d’IA com ChatGPT està permès, el contingut generat per IA ha d’estar clarament referenciat per no ser considerat plagi.

Quins riscos planteja la nuesa i l’ús indegut de la identitat amb IA?

Les funcions de nuesa mitjançant IA són fàcilment accessibles, ja sigui a través d’aplicacions pensades amb aquesta finalitat o de xatbots que permeten despullar i manipular imatges prèviament pujades. 

Les fotografies de menors poden ser manipulades o compartides per humiliar-los. El contingut generat amb IA pot fer-se servir per estafes de sextorsió i les eines de clonació de veu poden crear clips d’àudio a partir de tan sols 15 segons de gravacions en línia. 

Compartir imatges de menors, fins i tot abans que tinguin perfils a les xarxes (sharenting), augmenta el risc d’un ús indegut. El 90% del material d’abús sexual infantil generat amb IA és ara indistingible del contingut real, i la producció d’aquesta mena de material extrem va a l’alça.

Els vídeos deepfake i els models d’IA perfeccionats poden generar pràcticament qualsevol imatge o vídeo d’una criatura. Ara bé, generar o compartir imatges íntimes no consentides, incloses les generades amb IA, és il·legal. 

La IA ha de ser el seu amic?

A Espanya, gairebé una de cada deu criatures d’entre 9 i 16 anys fa servir els xatbots d’IA per demanar consell o companyia. Els nens i nenes que comparteixen els seus pensaments amb la IA han de saber que les seves converses poden ser emprades per aprendre sobre ells i, després, ser compartides en funció de les polítiques de privacitat de les aplicacions.

L’ús freqüent de xatbots com a confidents pot limitar les habilitats socials en el món real. A diferència dels companys de carn i ossos, les interaccions amb eines d’IA són molt agradables i ofereixen experiències menys desafiants i més gratificants. 

Ara bé, els xatbots d’IA no són tecnologies regulades per a la salut mental. Sense mesures de seguretat, poden amplificar els pensaments negatius o generar consells perjudicials. Entre els casos documentats recentment, s’inclouen bots de jocs de rol a favor de l’anorèxia a Character.Ai i contingut generat amb IA, com ara notes de suïcidi a ChatGPT. 

Consulta les polítiques de privacitat

És important entendre com els xatbots fan servir, emmagatzemen o comparteixen la informació que generen durant les nostres interaccions. 

Consells per reduir riscos a l’hora d’interactuar amb la IA

1. Verifica els resultats de la IA. Anima els nens i nenes a verificar la informació rellevant amb fonts confiables. Especialment, a l’hora de fer els deures, ja que la IA no sempre és correcta.
   
2. Fes servir la IA com a suport a l’aprenentatge, no com a substitut. Els xatbots poden explicar idees o suggerir fonts, però les criatures no poden confiar en aquestes eines per completar les tasques. Per evitar acusacions de plagi, és important que admetin sempre el seu ús.
   
3. Evita compartir imatges i vídeos en excés. El contingut públic pot ser manipulat amb IA amb finalitats d’assetjament, bullying o estafes. Alerta els més petits de les serioses conseqüències de compartir o alterar imatges sense consentiment, fins i tot, si és “de broma”.
   
4. Ves amb compte amb els consells i la companyia de la IA. Explica als nens i nenes que els xatbots d’IA no són persones i que poden oferir consells incorrectes o perjudicials. Recorda’ls que han de buscar suport emocional en adults confiables.
   
5. Estableix límits i comprova les restriccions d’edat. Habilita controls parentals, limita l’ús de la IA, i revisa les restriccions per edat i els termes d’ús. Algunes eines d’IA, com ara Character.Ai, són per a majors de 18 anys, però els xatbots complementaris poden aparèixer en aplicacions que els menors ja fan servir, com ara Roblox.

Fonts

Artificial Intelligence (AI) and the Production of Child Sexual Abuse Imagery, Internet Watch Foundation, 2024

Children and AI: What you need to know, CyberSafe Kids, 2026 

Staksrud, E., Mascheroni, G., Milosevic, T., Ní Bhroin, N., Ólafsson, K., Şengül-İnal, G., & Stoilova, M. (2026). European children’s use and understanding of Generative AI. EU Kids Online V