Falsos metges fets amb IA inunden YouTube amb desinformació adreçada a gent gran

L’article s’ha actualitzat per incloure declaracions de la Comissió Europea (20 de març) i de YouTube (25 de març)

YouTube està ple de canals de salut fets amb intel·ligència artificial. Res prova que al seu darrere hi ha metges reals. Tanmateix, els canals no indiquen en la seva descripció que produeixen contingut sintètic, i tres de cada quatre vídeos que publiquen tampoc ho especifiquen, malgrat que les polítiques de la plataforma demanen als creadors que ho facin. És la conclusió d’un estudi de Verificat després d’analitzar 14 canals i el gairebé miler de vídeos que han produït amb aquestes característiques. 

Tots ells estan adreçats a persones grans i, sovint, contenen informació no basada en l’evidència i desinformació que en alguns casos ja hem desmentit des de Verificat, com aliments miraculosos, consells sense evidència per prevenir malalties, o recomanacions per evitar tractaments indicats.

En conjunt, els canals investigats acumulen més de mig milió de seguidors i 54 milions de visualitzacions. Es tracta de perfils recents (cap d’ells té més d’un any d’antiguitat) i molt similars entre ells, on apareixen persones (simulades) amb bata blanca que es presenten com a doctors experts en salut i envelliment, i comparteixen suposats hàbits per prevenir malalties. 

Són continguts que podrien vulnerar les polítiques de la plataforma. A més, la Digital Services Act (DSA) de la Unió Europea requereix que tots els proveïdors de grans plataformes online identifiquin, analitzin i avaluïn diligentment qualsevol risc sistèmic real o previsible en relació amb la salut pública, i les conseqüències negatives greus que poden provocar en el benestar físic i mental de les persones. 

Des de Verificat, vam posar la investigació en coneixement de YouTube l’11 de març de 2026 per demanar-los quines accions duen a terme davant d’aquests continguts. A través del departament de premsa, un portaveu de YouTube ens ha contestat a data 25 de març explicant les mesures aplicades un cop revisats el canals reportats per Verificat, que inclouen afegir etiquetes d’IA al voltant de 700 vídeos que no en tenien, tancar un dels 14 canals que infringia la política d’spam, pràctiques enganyoses i estafes, i eliminar un nombre de canals indeterminat del Programa de socis de YouTube, cosa que significa que ja no poden obtenir ingressos del contingut

La investigació de Verificat s’ha centrat en 14 perfils que asseguren haver estat creats a l’estat espanyol, però els deepfakes de professionals de la salut és una tendència que traspassa fronteres i llengües, com han fet palès altres membres, com Verificat, de la xarxa europea de fact-checking EFCSN com Full Fact o Science Feedback.

Un miler de vídeos de doctors fets amb IA

A través del WhatsApp de Verificat (+34 695 225 233), ens va arribar un vídeo curt de YouTube d’un suposat metge del Perú que recomanava el consum de plàtan en majors de seixanta anys descrivint-lo com un “aliment miraculós”, un concepte que no existeix. Tenia indicis d’estar generat amb IA, tot i que no portava cap etiqueta que ho indiqués. L’autor del canal es presentava com a doctor i compartia “contingut pensat especialment per a gent gran” amb remeis naturals “per a la diabetis, colesterol, pressió alta, fetge gras i més”. 

A partir d’una cerca d’aquests conceptes, des de Verificat hem localitzat desenes de canals similars creats a YouTube des d’arreu del món. Una anàlisi en profunditat de 14 d’aquests comptes amb origen declarat a Espanya ha demostrat que es tracta de falsos doctors generats amb intel·ligència artificial. Tots publiquen de manera sistemàtica continguts de salut dirigits a gent gran (nou expliciten que estan destinats a “majors de 60 anys”, i altres tres parlen de “persones grans”, “tercera edat” o “salut sènior”), en molts casos sense base científica i sovint amb desinformació i alarmisme, fet que pot tenir un impacte real en la vida i la salut de les persones. 

Captures d’alguns vídeos dels comptes analitzats per Verificat. La mostra inclou 14 comptes, que han publicat prop d’un miler de vídeos que acumulen 54 milions de visualitzacions.

En tots els casos, els vídeos presenten consells genèrics, i parlen sovint d’aliments “miraculosos”. Verificat ja ha desmuntat algunes de les desinformacions que apareixen en aquests canals amb anterioritat: és el cas del fals mite que la dutxa amb aigua freda augmenta el risc de patir un ictus o altres malalties cardiovasculars, o que la xia no és un superaliment que permet curar o prevenir malalties per si sol. Per altra banda, també hi ha casos en què recomanen no seguir determinats tractaments, vacunes o cirurgies que poden haver estat indicats per un metge real, com uns vídeo on a la miniatures (thumbnails) es llegeix “Persona gran, no acceptis aquesta cirurgia!” i “No et posis mai aquesta vacuna!”.

Els vídeos analitzats empren títols i miniatures similars, i molts d’ells tenen guions gairebé idèntics, malgrat pertànyer a canals diferents. De fet, fins i tot les descripcions dels canals coincideixen (tres d’ells tenen exactament la mateixa, només canvia el nom del suposat metge). En aquestes descripcions, els perfils es presenten com a doctors experts en envelliment i vida saludable. Tot i això, des de Verificat no hem pogut comprovar que l’autoria dels comptes sigui la mateixa.

Descripcions idèntiques de tres dels canals de falsos metges analitzats.

Algunes de les descripcions inclouen descàrrega de responsabilitat, i recomanen consultar amb un metge abans de fer cap canvi en l’estil de vida, però no hi ha cap descripció que inclogui un advertiment que els continguts estan generats amb IA. Amb tot, l’evidència que no són persones reals és clara.

Seguint els passos de la guia de Verificat per detectar continguts generats amb IA, hem pogut detectar, per exemple, que diversos canals empren els mateixos avatars (les mateixes cares, que en algun cas són les de la plataforma HeyGen AI); que hi ha noms que no concorden entre la presentació que fan els suposats metges del vídeo, el nom que apareix a la bata (en alguns casos anglosaxó) i el nom dels canals; i que hi ha lletres en algunes imatges que no corresponen amb lletres reals de l’alfabet, evidència clara d’estar generats amb IA.

Exemple d’un vídeo no etiquetat com a “Contingut alterat o sintètic” amb lletres falses i borroses que demostren haver estat fet amb IA.

Exemples de noms, títols de vídeos i cares que es repeteixen en diferents canals analitzats.

Entre els canals analitzats, no n’hem trobat cap que suplantés la identitat d’una persona real, tot i que en altres canals internacionals sí que ha passat, com demostra la investigació de Science Feedback sobre el fenomen a TikTok.

Tres de cada quatre vídeos no indicaven que eren IA 

Una de les maneres de detectar vídeos generats amb intel·ligència artificial és identificar etiquetes com ara “generat amb IA”. En el cas de YouTube, els creadors han d’incloure l’etiqueta de “Contingut alterat o sintètic” en els vídeos creats d’aquesta manera. Dels 962 vídeos analitzats, només el 26% portaven aquesta etiqueta. Així, gairebé tres de cada quatre no la mostraven. En vuit dels canals, la proporció de vídeos no identificats com a IA està entre el 80 i el 100%.

Segons les polítiques de YouTube, els creadors han de notificar quan empren la IA per generar «contingut realista» o per fer «canvis importants» en un vídeo real. Aquells “que decideixin sistemàticament no divulgar aquesta informació poden ser objecte de sancions per part de YouTube, com ara l’eliminació de contingut o la suspensió del Programa de socis de YouTube”. Des del departament de premsa de YouTube expliquen a data 25 de març que un dels 14 canals reportats per Verificat ha sigut tancat per infringir la política d’spam, pràctiques enganyoses i estafes, i han suspès un nombre indeterminat de canals del Programa de socis de YouTube de manera que ja no poden obtenir ingressos del contingut. 

Des de YouTube asseguren que apliquen les normes de la Comunitat “mitjançant una combinació d’aprenentatge automàtic i revisors humans” i que “el contingut infractor va representar entre el 0,14% i el 0,15% de les visualitzacions” el quart trimestre de 2025. La mostra reduïda de canals analitzats per Verificat, que publicaven des de feia mesos i acumulaven milers de visualitzacions, només van rebre les accions de YouTube després de la revisió dels vídeos que els vam fer arribar. 

D’altra banda, la Llei sobre IA de la Unió Europea estableix disposicions per garantir que les persones puguin saber quan un contingut s’ha generat amb IA. En aquesta línia, s’ha de publicar entre el maig i el juny d’aquest any un codi de bones pràctiques que, malgrat no ser d’aplicació obligada, demanarà a les plataformes marcar el contingut fet amb IA. En canvi, les normes de transparència que entraran en vigor l’agost de 2026 sí que obligaran els sistemes d’IA generativa a marcar, en algunes circumstàncies, els continguts que han estat creats artificialment (article 50).

En declaracions a Verificat, el departament de premsa de la Comissió Europea ha assenyalat que aquesta normativa prohibeix algunes pràctiques, entre les quals s’inclou la manipulació i els enganys a partir de la IA, i que «els deepfakes i altres continguts generats per IA han d’estar etiquetats com a tals».

La desinformació, un perill per a la salut

Tots els vídeos analitzats (un total de 962) contenen consells sobre dieta i estils de vida per prevenir o tractar malalties relacionades amb l’envelliment com per exemple la sarcopènia, l’artrosi, la impotència o les malalties cardiovasculars.

També hem detectat que les falses doctores fetes amb IA es presenten, a grans trets, com a uròlogues i expertes en sexualitat, mentre que els homes parlen de salut cerebral i prevenció de múltiples malalties. Els vídeos més vistos tenen a veure amb la remeis per mantenir sans els ronyons, evitar la pèrdua de memòria i la demència, les malalties del cor o la diabetis. 

YouTube també té polítiques contra la desinformació mèdica en què especifiquen que «no permeten contingut que promou informació que contradiu les guies de les autoritats sanitàries en la prevenció o transmissió de malalties específiques», ni  «en tractaments per malalties específiques, inclosa la promoció substàncies danyoses específiques o pràctiques que no hagin estat aprovades per les autoritats sanitàries locals». Preguntats per Verificat sobre aquestes polítiques, asseguren que continuen “invertint en la feina que fem per connectar les persones a Espanya amb informació de salut altament fiable que sigui alhora atractiva i basada en l’evidència”.

Fer de metge és una professió regulada, recorda en declaracions a Verificat Gustavo Tolchinsky, coordinador del programa Web Mèdica Acreditada del Col·legi de Metges de Barcelona (CoMB) i vicepresident de la Comissió de Deontologia del CoMB. “Els col·legis professionals fan que hi hagi una identificació unívoca de la persona [qualsevol metge ha de tenir nom i número de col·legiat únic]”, explica, detall que no apareix en cap dels canals. Afegeix que l’exercici de la professió implica també una divulgació a les xarxes i a internet dins d’uns criteris regulats, amb iniciatives com Web Mèdica Acreditada o el decàleg del Consell de Col·legis de Metges de Catalunya (CCMC). En el cas dels comptes analitzats de falsos metges fets amb IA, Tolchinsky assenyala que els vídeos barregen obvietats amb falsedats, “la qual cosa és un perill”. “Si veus qualsevol cosa a les xarxes, comenta amb el metge de capçalera o l’especialista perquè contrasti si és real o no”, recomana.

Un risc sistèmic en el marc de la DSA

Tots els serveis en línia que operen a la Unió Europea estan obligats a complir amb la Llei de Serveis Digitals (DSA), un marc normatiu que exigeix que les plataformes minimitzin els riscos d’exposar els ciutadans a continguts il·legals i perjudicials, segons detalla la Comissió Europea al seu web. Concretament, l’article 34 estableix que tots els proveïdors de grans plataformes online “han d’identificar, analitzar i avaluar diligentment qualsevol risc sistèmic a la Unió derivat del disseny o del funcionament del seu servei […] o de l’ús que es faci dels seus serveis”, entre els quals es destaca qualsevol efecte negatiu real o previsible en relació amb la salut pública, i conseqüències negatives greus per al benestar físic i mental de les persones.

En un informe del Consell Europeu de Serveis Digitals del novembre de 2025, els proveïdors d’aquests serveis van reconèixer que hi ha “riscos sistèmics per a la salut pública derivats de la difusió a gran escala de desinformació a les xarxes socials”. “Aquests inclouen, per exemple, les vacunes, afirmacions enganyoses sobre substàncies i pràctiques legals però potencialment nocives, la gamificació de tendències virals perjudicials per a la salut o malalties greus com l’Ebola, el VIH/sida o la diabetis”, recull l’informe.

L’informe de Google d’avaluació de riscos sistèmics en el marc de la DSA de 2025 posa com a exemple de desinformació vídeos enganyosos a YouTube, comportaments fraudulents com l’ús de deepfakes o informació mèdica enganyosa. “Prenem mesures per evitar la difusió d’aquest tipus de contingut a gran escala”, asseguren.