Cinco consejos para reducir riesgos al utilizar chatbots de IA

El uso de la inteligencia artificial (IA) generativa está creciendo entre los jóvenes. En parte, porque aplicaciones familiares como Google Search, WhatsApp o Snapchat ya incluyen tecnologías de IA. Teniendo en cuenta que, en España, el 25% de los niños y niñas de 9 años ya utiliza IA generativa, una cifra que asciende hasta el 50% a los 13, las familias deben tomar conciencia de los riesgos asociados a un uso excesivo y dependencia de estas tecnologías.

Qué debes tener en cuenta antes de utilizar la IA

¿Podemos confiar en el contenido creado con IA?

La IA facilita la publicación de narrativas convincentes pero falsas en internet, y también en redes sociales. Los chatbots y los resultados de búsqueda basados en IA pueden ser engañosos, ya que se sustentan en información sesgada, desactualizada o incompleta y, en ocasiones, “alucinan” respuestas cuando les faltan datos. 

A medida que la IA se entrena con más contenido creado por otra IA, la información falsa o distorsionada puede amplificarse. Ante este escenario, la verificación de datos sigue siendo clave.

¿ChatGPT puede hacer sus deberes?

Confiar en chatbots de IA para obtener respuestas puede socavar la resolución de problemas, el pensamiento crítico y la creatividad de los niños y niñas. También aumenta el riesgo de plagio. Por eso, aunque el uso de herramientas de IA como ChatGPT puede estar permitido, el contenido generado por IA debe estar claramente referenciado para no ser considerado plagio.

¿Qué riesgos plantea el desnudo y el uso indebido de la identidad con IA?

Las funciones de desnudez mediante IA son fácilmente accesibles, ya sea a través de aplicaciones pensadas directamente para esta finalidad o de chatbots que permiten desnudar y manipular imágenes previamente subidas. 

Las fotografías de los menores pueden ser manipuladas o compartidas para humillarlos. El contenido generado por IA puede utilizarse para estafas de sextorsión y las herramientas de clonación de voz pueden crear clips de audio a partir de tan solo 15 segundos de grabaciones en línea.

Compartir imágenes de menores, incluso antes de que tengan cuentas (sharenting), aumenta el riesgo de un uso indebido. El 90% del material de abuso sexual infantil generado por IA es ahora indistinguible del contenido real, y la producción de este tipo de material extremo está aumentando.

Los vídeos deepfake y los modelos de IA perfeccionados pueden generar casi cualquier imagen o vídeo de un niño. Ahora bien, generar o compartir imágenes íntimas no consentidas, incluidas las generadas por IA, es ilegal.

¿La IA debe ser su amiga?

En España, casi una de cada 10 criaturas entre 9 y 16 años utiliza los chatbots de IA para pedir consejo o compañía. Los niños y niñas que comparten sus pensamientos con la IA deben saber que sus conversaciones pueden utilizarse para aprender sobre ellos y luego compartirse en función de las políticas de privacidad de las aplicaciones.

El uso frecuente de chatbots como confidentes puede limitar las habilidades sociales en el mundo real. A diferencia de los compañeros de carne y hueso, las interacciones con las herramientas de IA son muy agradables y ofrecen experiencias menos desafiantes y más gratificantes. 

Ahora bien, los chatbots de IA no son herramientas reguladas para la salud mental. Sin medidas de seguridad, pueden amplificar los pensamientos negativos o generar consejos perjudiciales. Entre los casos documentados recientemente, se incluyen bots de juego de roles proanorexia en Character.AI y contenido generado por IA, como notas de suicidio en ChatGPT.  

Consulta las políticas de privacidad

Es importante comprender cómo los chatbots utilizan, almacenan o comparten la información generada durante las interacciones. 

Tips para reducir los riesgos al interactuar con la IA

1. Verifica los resultados de la IA. Anima a los niños y niñas a verificar información importante con fuentes confiables, especialmente, para hacer los deberes, ya que la IA no siempre es correcta.
   
2. Utiliza la IA como apoyo al aprendizaje, no como sustituto. Los chatbots pueden explicar ideas o sugerir fuentes, pero las criaturas no pueden confiar en estas herramientas para completar las tareas. Para evitar acusaciones de plagio, es importante que admitan su uso siempre que utilicen IA.
   
3. Evita compartir imágenes y vídeos en exceso. El contenido público puede ser manipulado por la IA con finalidades de acoso, bullying o estafas. Alerta a los más pequeños de las serias consecuencias de compartir o alterar imágenes sin consentimiento, incluso si es “de broma”.
   
4. Ten cuidado con los consejos y la compañía de la IA. Explica a los niños y niñas que los chatbots de IA no son personas y que pueden ofrecer consejos incorrectos o perjudiciales. Recuérdales que deben buscar apoyo emocional en adultos confiables.
   
5. Establece límites y comprueba los límites de edad. Habilita controles parentales, limita el uso de la IA, y revisa las restricciones por edad y los términos de uso. Algunas herramientas de IA, como Character.Ai, son para mayores de 18 años, pero los chatbots complementarios pueden aparecer en aplicaciones que los menores ya utilizan, como Roblox. 

Fuentes

Artificial Intelligence (AI) and the Production of Child Sexual Abuse Imagery, Internet Watch Foundation, 2024

Children and AI: What you need to know, CyberSafe Kids, 2026 

Staksrud, E., Mascheroni, G., Milosevic, T., Ní Bhroin, N., Ólafsson, K., Şengül-İnal, G., & Stoilova, M. (2026). European children’s use and understanding of Generative AI. EU Kids Online V