Com detectar els falsos metges fets amb IA que omplen les xarxes socials?

A través del WhatsApp de Verificat (+34 695 225 233), ens vau fer arribar un vídeo publicat a YouTube d’un suposat metge del Perú que recomanava el consum de plàtan en majors de seixanta anys com un “aliment miraculós”, un concepte que no existeix. El vídeo estava generat amb intel·ligència artificial, tot i no explicitar-ho en la descripció, i vam detectar que formava part d’una tendència més gran. 

Una investigació de Verificat ha analitzat 14 canals en aquesta plataforma i gairebé un miler de vídeos, iha descobert que es tracta de perfils molt similars entre ells: es presenten com a doctors experts en salut i envelliment, comparteixen suposats hàbits per prevenir malalties, sovint contenen desinformació, i estan generats amb IA tot i no indicar-ho en la descripció del canal ni en la majoria dels vídeos.

Segons els experts i estudis consultats per Verificat, els continguts generats amb intel·ligència artificial són cada vegada més difícils de detectar per tots els públics, però aquesta dificultat s’accentua entre alguns col·lectius com són les persones grans. Quan, a sobre, aquests continguts s’hi dirigeixen específicament i difonen desinformació sobre temes de salut, poden perjudicar la vida de les persones. Per això és molt important sempre consultar amb un metge abans de seguir qualsevol consell que trobem per internet. T’expliquem les claus per aconseguir detectar els falsos metges fets amb IA.

Identificar falsos metges fets amb IA

La presència de continguts generats amb IA a les xarxes ha anat en augment en els darrers anys, i ha permès crear avatars molt versemblants. Maite López, catedràtica en Intel·ligència Artificial de la Universitat de Barcelona, explica a Verificat que precisament “aquests algorismes s’entrenen perquè semblin reals i no es puguin distingir”.

En el cas dels vídeos de suposats metges que ens fan recomanacions sobre com prevenir o curar certes malalties, hi pot haver indicis visuals i contextuals que ens poden ajudar a sospitar, tal com explica la guia de Verificat per detectar continguts generats amb IA.

Si ens trobem davant d’un vídeo que ens porta a una reacció emocional o que ens genera dubte, podem fixar-nos en els aspectes següents:

• Comproveu si porta etiquetes com ara “generat amb IA”. 

En el cas de YouTube, els creadors han d’incloure l’etiqueta de “Contingut alterat o sintètic” en els vídeos creats d’aquesta manera que produeixin “contingut realista”. Per tant, si un vídeo d’un suposat metge du aquesta etiqueta, cal saber que es pot tractar d’una persona simulada, i no d’un metge real. Tanmateix, pel que fa als vídeos de YouTube de falsos metges generats analitzats per Verificat, només tres de cada quatre portaven aquesta etiqueta. 

• Detecteu si el metge s’identifica com a col·legiat

La professió mèdica està regulada pels col·legis professionals, i tots els metges tenen el seu codi de col·legiat únic, com recorda Gustavo Tolchinsky, metge internista i vicepresident de la Comissió de Deontologia del Col·legi de Metges de Barcelona (CoMB). “Et dona la tranquil·litat que estàs en mans d’una persona en la qual confiar”, explica en declaracions a Verificat. Tot i que a les xarxes, sovint no hi ha ubicació específica, i els noms són genèrics, cosa que fa que sigui més difícil contrastar que qui hi ha el darrere és un professional real, cap dels canals analitzats per Verificat mostrava un número de col·legiat. 

• Reviseu si el contingut i les recomanacions concorda amb el que diuen les institucions sanitàries oficials i fonts confiables.

López, experta en IA i ètica, remarca la importancia de verificar les fonts que hi ha darrere dels vídeos i fer-se preguntes com “en base a quina informació donen aquests consells?” i “qui dona suport a aquesta informació?”.  “Jo a nivell personal, quan algú m’envia alguna informació, intento contrastar la font. Si hi ha una agència europea de salut, algú que acrediti allò que es diu, és per mi garantia que algú amb entitat amb coneixement”, comparteix López. 

Des del Col·legi de Metges de Barcelona existeix la iniciativa Web Mèdica Acreditada, un segell que garanteix als usuaris que el contingut d’un web és de confiança i de qualitat. “Demostrem que allò que estem oferint no porti a l’engany”, assenyala Tolchinsky, que coordina el programa. Algunes webs on trobar també informació verificada sobre salut són Canal Salut, del Departament de Salut; Estils de Vida Saludable, del Ministeri de Sanitat; o la web de l’Organització Mundial de la Salut.

“Si veus qualsevol cosa a les xarxes, comenta amb el metge de capçalera o l’especialista perquè contrasti si és real o no”, recomana Tolchinsky, i recorda que la informació en salut a les xarxes i als mitjans pot ser orientativa, però sobretot cal contrastar-ho amb el professional de confiança.

• Observeu si hi ha elements borrosos, deformats o incoherents: objectes mal definits, cares estranyes o textos impossibles de llegir.

Entre els vídeos analitzats, destaquen a vegades cartells o títols de metges al fons. Potser a primera vista, poden semblar reals, però si podem ampliar la imatge veurem que els textos són borrosos o que inclouen lletres que no pertanyen a cap alfabet, fet que és una evidència clara que és IA.

Captura d’un dels vídeos de falsos metges fets amb IA i les evidències que ho demostren.

• Detecteu possibles contradiccions amb la llei física o la lògica en la imatge i en el so.

Alguns dels vídeos mostren imatges de metges asseguts que es mouen de manera robòtica, i el so tampoc no concorda amb el moviment dels llavis.

• Utilitzeu detectors de contingut generat amb IA com a suport, però tenint present que no són infal·libles i que sempre cal contrastar-ne els resultats.

Les dificultats per detectar desinformació

Cal destacar que les persones només poden distingir el contingut generat per IA del contingut autèntic la meitat de les vegades, segonsun estudi del King’s College de Londres i el Centre d’Estudis Estratègics i Internacionals de Washington. 

A més, el grup demogràfic al qual es dirigeixen els vídeos de falsos doctors analitzats, les persones grans, “és un dels menys preparats per reconèixer que el contingut és sintètic”, explica a Verificat Di Cooke, investigadora de l’estudi. “Quan això es combina amb la confiança inherent que la gent diposita en les figures d’autoritat mèdica, el potencial de danys és greu”, remarca.

En el cas dels vídeos de falsos metges analitzats, presenten consells genèrics, i parlen sovint d’aliments “miraculosos”. Des de Verificat hem desmuntat amb anterioritat algunes de les desinformacions com el cas del fals mite que la dutxa amb aigua freda augmenta el risc de patir un ictus, o que la xia no és un superaliment que permet curar o prevenir malalties per si sol. Per altra banda, també hi ha casos en què recomanen no seguir determinats tractaments, vacunes o cirurgies que poden haver estat indicats per un metge real. 

“Si es detecta o veiem que hi ha figures com aquestes que fan recomanacions de tractaments específics per les persones o que dirigeixen els pacients a una clínica, tens una situació de més risc”, remarca Tolchinsky.

El metge internista detalla que les “malalties et posen en desesperació per trobar respostes” i això també contribueix a fer que les persones siguin més vulnerables davant aquest tipus de desinformacions. “La frustració quan la malaltia et planta un escenari intolerable, o quan el sistema genera frustració per l’accés, és el perfil de persona que té més risc d’estar exposada a buscar solucions per altres vies”, explica.

La catedràtica de la UB en IA, Maite López, que centra la seva recerca en IA i ètica, assenyala que “anem cap a un estat on ni tan sols els experts som capaços de discernir segons quines imatges generades amb IA”. Per això, reclama que s’estableixin mecanismes que ho assenyalin perquè la persona pugui saber quan és IA, a través de l’etiquetatge, ja que és un “requeriment ètic que no està implantat, però que s’ha demanat molt”. En el marc de la Llei sobre IA de la Unió Europea, s’ha de publicar entre el maig i el juny d’aquest any un codi de bones pràctiques que, malgrat no ser d’aplicació obligada, demanarà a les plataformes marcar el contingut fet amb IA.

“No podem confiar que la gent detecti aquest contingut per si mateixa”, coincideix Cooke a partir de les conclusions del seu estudi. “Cal una combinació de mesures: una detecció i una supervisió de contingut més sòlides a nivell de plataforma, requisits reglamentaris per etiquetar el contingut generat per IA i iniciatives educatives centrades no només en la conscienciació sobre els deepfakes, sinó també en habilitats pràctiques com la verificació de fonts i la comparació d’afirmacions mèdiques”, demana. Per això és especialment important, sempre consultar amb un metge abans de seguir qualsevol consell que trobem per internet i fer cap canvi important en la dieta o tractament.