Desmuntem una xarxa de comptes a Meta fets amb IA que suplanten ‘influencers’ i publiciten complements alimentaris sense evidència

Tres comptes d’Instagram i Facebook, que acumulen conjuntament gairebé 2 milions i mig de seguidors, es dediquen a difondre desinformació mèdica i nutricional mitjançant deepfakes sense indicar que empren la IA. Alguns posts fins i tot suplanten la identitat d’influencers de l’àmbit de la nutrició amb milions de seguidors. La gran majoria de publicacions promocionen explícitament complements alimentaris “naturals” als quals atribueixen propietats miraculoses per combatre l’envelliment i tota mena d’afeccions, però que no compten amb cap evidència científica.

Els vídeos animen a no consultar professionals mèdics en cas de patir problemes de salut, mostren falses detencions per dir “la veritat” sobre les malalties i parlen de “remeis secrets i mil·lenaris”, fent ús de l’alarmisme i la conspiració per alimentar narratives antimedicina.

Tres perfils a Meta generats amb IA i amb un contingut similar

Ens heu preguntat a través del Whatsapp de Verificat (+34 695 225 233) per unapublicació viral a Instagram que assegura poder eliminar additius alimentaris sintètics del cos amb una barreja “magistral” a base d’herbes de la qual en promou la compra.

El vídeo presenta signes clars d’haver estat generat amb IA, com la presència de textos il·legibles, una fonètica en ocasions robòtica, o fins i tot un canvi sobtat del color dels ulls de la protagonista a mig vídeo.

Els textos il·legibles poden donar pistes que un vídeo ha estat generat amb IA.

Petits detalls com un canvi sobtat en el color d’ulls dins un mateix vídeo ens poden ajudar a detectar identitats falses. 

Una cerca inversa d’imatges de la dona que el protagonitza no torna cap resultat fora de les xarxes socials, i no hi ha proves que es tracti de cap professional de l’àmbit de la salut.

Tanmateix, hem trobat dos comptes amb noms diferents (un d’ells amb la mateixa imatge de perfil) que publiquen contingut molt similar a Instagram i a Facebook, on acumulen gairebé un milió de seguidors cadascun. A més, tots tres canals mostren una manca de coherència en la identitat, amb vídeos més antics en què qui dona els consells són altres persones, de diferents ètnies i edats.

Una anàlisi més detallada revela que no hi ha registre a internet de la majoria d’aquestes persones, i que probablement han estat creades amb IA. 

Tanmateix, també hi ha casos de suplantació d’identitat utilitzant la IA que impliquen creadors de contingut sobre benestar llatinoamericans: Juan Rivera (cardiòleg al Centre Mèdic Mount Sinai a Florida), Jorge Bayter (metge cirurgià que ha divulgat imprecisions sobre nutrició), Sebastián Chacón (que es defineix com empresari i consultor de restauració, però no té formació mèdica demostrada i empra llenguatge conspiranoic), i Frank Suárez (empresari que es presentava com a expert en obesitat i metabolisme), mort el 2021, segons va publicar Univision. Junts arriben als 13 milions de seguidors a Instagram.

Hem contactat amb aquestes persones per tal d’avisar-les i preguntar-los si havien concedit entrevistes a aquests canals, però en el moment de publicar aquesta verificació no havíem obtingut resposta.

Desinformació, narratives antimedicina i alarmisme: eines al servei d’un objectiu comercial

Gran part dels vídeos publicats en aquests perfils tenen la mateixa estructura: una persona relata una sèrie de símptomes, n’ofereix una explicació vaga (que, sovint, implica inflamació generalitzada, infeccions cròniques o problemes intestinals) i enumera certs ingredients naturals per combatre el problema subjacent. Tot això per finalment promocionar un complement comercial amb una composició que no sempre coincideix amb els ingredients citats com a cures prèviament i que, assevera, té un efecte molt més potent que els remeis naturals individuals.

Els matisos addicionals que guarneixen la base van variant i inclouen la desacreditació dels professionals mèdics, a qui acusen de sobremedicar les persones; la veneració dels remeis naturals com a formes de medicina utilitzades en cultures mil·lenàries; la presència d’hams emocionals que ressalten les propietats miraculoses del complement que promocionen; i certa dosi d’alarmisme i conspiranoia en parlar de “remeis secrets” i mostrar suposades detencions per divulgar-los.

Alguns vídeos fan ús de l’alarmisme i la conspiranoia per col·locar les persones que donen els consells com a víctimes del sistema.

A més a més, els vídeos difonen desinformació mèdica que barreja símptomes comuns amb processos patològics. Per exemple, s’afirma de manera genèrica que “el mal d’esquena prové de la inflamació crònica”, quan sovint es tracta de problemes posturals; que “els conservants ingerits no desapareixen així com així i ataquen el cos”, quan l’organisme els metabolitza i en molts casos no suposen cap risc; o que “es pot desintoxicar el cos a través dels porus dels peus, que són una autopista directa al sistema limfàtic”, malgrat que, encara que els peus tenen porus i el sistema limfàtic elimina toxines, no existeix cap connexió fisiològica que permeti expulsar residus pels peus.

Tot plegat forma part d’una narrativa antimedicina que alimenta la desconfiança en els professionals reals per dipositar-la en persones sense formació provada, en aquest cas inexistents, que donen consells sense fonament i recomanen la compra de complements alimentaris com a substitut de visites i prescripcions mèdiques. Això pot tenir conseqüències nefastes, com advertia la metgessa Mariam Tokhi en un article a The Guardian l’any passat. 

Com va explicar el metge Gustavo Tolchinsky a Verificat en un article recent, aquesta mena de vídeos solen barrejar obvietats amb falsedats, la qual cosa és “un perill”. Per això recomana contrastar les informacions que trobem a xarxes amb el metge de capçalera o l’especialista. 

Els complements anunciats no tenen propietats miraculoses ni evidència que n’avali l’ús terapèutic

Els perfils i moltes de les publicacions promocionen com a solució per als problemes de salut un complement alimentari que a Amazon es descriu com una “antiga fórmula d’herbes per a la salut intestinal, la detoxificació i vitalitat duradores”. El seu ingredient principal és l’extracte de fulles de l’arbre de la guanàbana (Annona muricata, soursop en anglès), una fruita tropical originària del centre i el sud d’Amèrica, però inclou 14 elements entre els quals es troben la moringa, l’ashwaganda, l’all i el gingebre.

No hi ha evidència sòlida que hagi trobat beneficis clínics ni propietats antienvelliment de l’extracte de fulla de guanàbana. Existeixen alguns estudis que han trobat certs efectes anticancerosos, així com d’altres que han suggerit possibles efectes antiinflamatoris, però la recerca és molt preliminar i les dades en humans, pràcticament inexistents.

Les publicacions més virals i la pàgina de venda a Amazon també li associen un efecte “detox”, un terme que s’utilitza de manera popular per suggerir l’eliminació de toxines de l’organisme però que, com aclareix a Verificat Oriol Comas Basté, professor lector del Departament de Nutrició, Ciències de l’Alimentació i Gastronomia de la Universitat de Barcelona, “sovint es considera vague o potencialment enganyós”. En aquest sentit, afegeix que “en persones sanes, aquesta funció ja la realitzen de manera molt eficient el fetge i els ronyons”.

Els productes naturals que anuncien són considerats complements alimentaris, no medicaments, i d’acord amb la normativa espanyola han de complir amb els criteris generals d’etiquetatge, presentació i publicitat dels productes alimentaris, que inclouen “no atribuir […] la propietat de prevenir, tractar o curar una malaltia […]”. De fet, Amazon no permet l’enviament del producte a Espanya, tot i que altres plataformes sí.

Verificat s’ha posat en contacte amb Serene Herbs, l’empresa que comercialitza el producte, per tal de preguntar en quina evidència es basa la promoció del producte, però en el moment de publicar aquesta verificació no havia obtingut resposta.

Producte natural no equival a producte segur

Els complements alimentaris, a diferència dels medicaments, no requereixen una autorització per a la seva venda, segons explica l’Agència Espanyola de Seguretat Alimentària (AESAN), encara que les empreses han de notificar la seva entrada al mercat a les autoritats competents i l’etiquetatge ha de complir una sèrie de requisits.

Diverses autoritats sanitàries, com l’AESAN o la Food and Drug Administration (FDA) nord-americana, coincideixen en una sèrie de recomanacions bàsiques respecte als complements: no emprar-los per substituir tractaments mèdics o una dieta equilibrada, consultar amb professionals sanitaris, adquirir-los en canals autoritzats com farmàcies (i evitar comprar-los a través d’internet i xarxes), i desconfiar de productes amb promeses miraculoses.

La millor recomanació, però, és seguir un estil de vida saludable, com recorda l’Oriol Comas, “amb una alimentació variada i equilibrada basada en l’evidència científica, i desconfiar de solucions ràpides”. De fet, aquest i altres consells apareixen al decàleg per al consum responsable de complements alimentaris de l’AESAN.

Els canals vulneren les normes de la comunitat de Meta

La política de representació de la vertadera identitat inclosa dins les normes de la comunitat de Meta estableix que no permeten l’ús dels seus serveis, és a dir, Facebook, Instagram i Threads, als comptes que “suplanten la identitat de qualsevol persona o entitat” mitjançant el “nom o imatge amb l’objectiu d’enganyar altres persones”. L’entitat preveu restringir o inhabilitar els comptes que ho facin.

El mateix aplica als comptes que “fan una representació enganyosa de la identitat per enganyar o confondre les persones”, la qual cosa identifiquen a partir de “canvis reiterats o significatius en els detalls de la identitat” o de trobar “informació de perfil enganyosa”. A més a més, a Facebook prometen una investigació “exhaustiva” en els casos en què un compte “representa una entitat no humana”, com pot ser un “personatge de ficció”, per avaluar si cal aplicar alguna sanció.

Quant al contingut, la política de frau, estafes i contingut enganyós de Meta prohibeix explícitament el contingut que inclou “afirmacions o garanties falses o enganyoses relacionades amb la salut en un context de pèrdua de pes emprant tàctiques de clickbait, com l’ús de llenguatge sensacionalista amb afirmacions exagerades o extremes”. 

La Llei de Serveis Digitals (DSA) de la Unió Europea exigeix a les plataformes “identificar, analitzar i avaluar diligentment qualsevol risc sistèmic”, segons marca l’article 34. Això inclou els “riscos sistèmics per a la salut pública derivats de la difusió a gran escala de desinformació a les xarxes socials”, segons un informe del Consell Europeu de Serveis Digitals de novembre del 2025.

Meta assegura als seus darrers informes de Facebook i Instagram que treballa per identificar “desinformació sanitària” que pot induir a danys en salut pública, entre els quals inclou publicacions que fan “promoció o defensa de cures miraculoses per problemes de salut”. Tanmateix, quan hem posat aquesta investigació en coneixement de la plataforma, no hem rebut resposta i, en el moment de publicar la peça, els canals seguien en actiu i publicant contingut nou.

Per altra banda, cap dels tres canals ni dels vídeos publicats adverteix que el contingut hagi sigut generat amb IA, malgrat que Meta així ho demana a les seves normes de la comunitat. “Cal identificar i etiquetar el contingut creat o modificat amb eines d’IA”, ja sigui perquè els sistemes de detecció de què disposa cada plataforma ho detecten o perquè els usuaris ho notifiquen, detallen. L’empresa també estableix que “és possible que s’apliquin penalitzacions” en cas que no es faci un etiquetat adequat.Com ja vàrem explicar, està previst que entre el maig i el juny d’aquest any la Unió Europea publiqui, en el marc de la seva Llei sobre IA, un codi de bones pràctiques que demanarà, però no obligarà, a les plataformes marcar el contingut fet amb IA.