

El 2013 s’estrenava la pel·lícula Her, la història d’un escriptor que estableix una relació afectiva amb un sistema operatiu intel·ligent. Més de deu anys després, el que semblava ficció comença a fer-se realitat: segons una investigació publicada aquest novembre pel The Washington Post, l’ús dels xatbots amb finalitats personals es popularitza.
L’estudi, que analitza més de 47.000 converses de ChatGPT publicades en obert per usuaris i usuàries estatunidencs, revela que el 35% de les persones enquestades fan servir aquestes eines per buscar informació. Ara bé, un 13% hi recorre per a reflexions personals i debats abstractes, fent d’aquest ús el segon més habitual. Com subratlla la recerca, “les preguntes flueixen des de tots els racons de la psique humana”: “Pots ajudar-me a analitzar aquesta conversa amb la meva parella?”, “Et sents conscient?” o “Quina és la taxa de supervivència d’una sobredosi de paracetamol?”.
En el cas dels joves, aquesta tendència és encara més marcada: segons l’estudi de GAD3, consultora d’investigació social i comunicació que en aquest informe posa el focus específicament en Espanya i en la població juvenil, fins al 30% fa servir els models d’IA per parlar de temes personals. El canvi en la manera de relacionar-se amb les tecnologies també queda reflectit a l’informe Así somos: el estado de la adolescencia en España, de Plan International, que apunta que gairebé un de cada vuit nois i una de cada quatre noies acut a la IA per “parlar i explicar les seves coses”. Per a Julia López, responsable d’incidència política de Plan International i una de les autores de l’informe, el problema és que “els joves veuen la IA com un expert objectiu i neutral que els pot donar la millor resposta possible sobre les seves preocupacions”. “No en fan un ús crític ni tenen en compte els seus biaixos”, afegeix en conversa amb Verificat.
Quan el xatbot substitueix el psicòleg
Segons una enquesta de Tebra, una plataforma digital d’atenció mèdica, el 25% dels estatunidencs parlaria abans amb un bot d’IA que amb un psicòleg si tingués un problema. D’aquells que ja ho han fet, el 80% pensa que és una alternativa eficaç a les sessions de teràpia. Les dades a Espanya també sustenten la mateixa tendència: el 24% de la població enquestada per la Fundació AXA admet fer servir aplicacions amb IA per gestionar la salut mental, una xifra que ascendeix fins al 45% en la franja dels 18 als 24 anys. López, de Plan International, confirma que “els joves fan servir les eines com ChatGPT per resoldre conflictes emocionals o socials que se’ls presenten”.
La situació preocupa els professionals de la salut mental. Antoni Baena, coordinador del Comitè d’ePsicologia del Col·legi Oficial de Psicologia de Catalunya i director del Màster de Salut Digital de la UOC, explica a Verificat que “el gran salt de la IA generativa és causat per la incorporació de programes capaços de generar converses que simulen emocions, tot i no tenir-les”. De fet, OpenAI també ho recorda en un estudi propi, on assenyala que ChatGPT no està dissenyat per imitar ni substituir les relacions humanes.
Per al psicòleg, un dels punts atractius d’aquestes tecnologies és que et permeten “trencar amb la soledat”. Un estudi sobre la ciutat de Barcelona confirma que el 26,5% dels joves se senten sols: el 19,4%, de vegades, i el 7,1%, sovint.
Els xatbots, però, no necessàriament donen respostes acurades en qüestió de salut mental. Les principals plataformes d’IA fallen sistemàticament en reconèixer i respondre adequadament a problemes de salut mental. L’informe de Common Sense Media, organització educativa, conclou que els xatbots tenen mancances de suport segur en casos d’ansietat, depressió, TDAH o psicosi, com ara l’absència de connexió humana, l’avaluació clínica, les relacions terapèutiques, l’atenció coordinada i la intervenció de crisi en temps real.
“Psicosi IA” és el nom que dona la investigació del The Washington Post al fenomen on usuaris, arran de mantenir converses intenses amb els xatbots, poden desenvolupar creences que són potencialment nocives. De fet, enguany s’han reportat els possibles primers casos de suïcidi després de tenir converses amb ChatGPT. “Que aquesta eina arribi a suggerir el suïcidi és profundament preocupant i demostra fins a quin punt molts adolescents i joves necessiten un suport adequat en salut mental que no estan rebent”, lamenta Baena.
En aquest sentit, el docent de la UOC imagina una eina capaç de mitigar la soledat que pateixen molts joves, oferint-los espais de conversa a través d’una tecnologia que faciliti aquest acompanyament i que estigui dissenyada sota principis ètics. “Aquesta eina, programada per professionals de la psicologia, hauria de poder detectar situacions crítiques i intervenir-hi de manera adequada”, afirma.
“Sycophancy”: cambres d’eco i teories conspiratives
A diferència dels assistents digitals, com Siri d’Apple o Alexa d’Amazon, els xatbots conversacionals amb IA, com ChatGPT, aprenen parlant amb l’usuari. Això provoca, segons la investigació del The Washington Post que, en alguns casos, l’eina s’adapti al punt de vista de la persona, creant una mena de cambra de ressonància personalitzada en què ChatGPT arriba a donar suport a falsedats i teories conspiratives, confirmant narratives que l’usuari ja havia desenvolupat.
Baena recorda que aquests interlocutors artificials “tenen tot el temps del món per parlar-te i, a sobre, sempre et donen la raó”, un comportament conegut com a “sycophancy” que contrasta frontalment amb la feina dels professionals de la psicologia, que consisteix a confrontar i contextualitzar les situacions.
Per treballar la IA a l’aula, pots explorar el recurs “Biaixos i IA” per ajudar l’alumnat a entendre que no tot el que diu la IA és cert. Una eina breu per a reflexionar sobre els biaixos i les seves conseqüències amb mirada crítica.
Subscriu-te al butlletí de Desfake
Descobreix eines i consells pràctics per combatre la desinformació a l’aula. T’ajudem a dotar-te de recursos efectius per ensenyar als teus alumnes a identificar la informació falsa.
Envia'ns per WhatsApp el que vulguis verificar i ens hi posarem
695 225 233




