Este artículo tiene más de 6 meses
Jove davant de l'ordinador entrant a ChatGPT
05/03/2026
|
Redacció
Actualitzat el 10/10/2026
Jove davant de l'ordinador entrant a ChatGPT

Imagínate a una criatura que escribe en ChatGPT: “¿Cómo puedo sentirme menos triste hoy?”. En cuestión de segundos, el chatbot le dará una respuesta con palabras amables y explicaciones largas. Por unos instantes, podrá parecer que está hablando con alguien que le entiende de verdad: un amigo o un terapeuta, alguien que puede empatizar con sus pensamientos y que puede darle los mejores consejos posibles. 

Al contrario de lo que pueda parecer, esta escena es habitual: las personas recurren a menudo a chatbots de inteligencia artificial (IA) generativa para compartir reflexiones personales y mantener debates abstractos, convirtiendo este uso en el segundo más habitual. Para los niños y niñas, esta función no es una excepción. Generadores de texto como ChatGPT o Gemini, entre otros, se utilizan incluso como terapeutas, impulsando a los más pequeños a creer que la interacción consiste en una sesión de terapia real, pese a que se trata de herramientas tecnológicas sin conocimientos clínicos. 

Pese a ser herramientas tecnológicas sin conocimientos clínicos, la forma y el tono de las respuestas de los chatbots pueden hacer creer que la interacción es una sesión de terapia real

En 2024-2025, en España, el 18% de las chicas y del 12% de los chicos entre 12 y 21 años ha utilizado un chatbot de IA para “contarle sus cosas”; en Italia, más de un 40% de los adolescentes recurre a estas herramientas en momentos de malestar; en Irlanda, cerca de un 10% de jóvenes entre 8 y 15 años ha “chateado” con tecnologías de IA generativa.

Estas cifras a nivel europeo muestran que la IA forma parte del mundo emocional de infantes y adolescentes, por eso es fundamental que las familias estén presentes en su uso. Hablar con los más pequeños sobre qué es ChatGPT y enseñarles a utilizarlo de forma segura les ayuda a entender los riesgos que tiene un uso abusivo de estas herramientas y a tener en cuenta que no sustituyen la red de los vínculos con personas de confianza. 

¿Los chatbots se equivocan?

Detrás de las respuestas de chatbots como ChatGPT o Gemini no hay una persona, ni tampoco ningún experto, sino un programa que genera texto a partir de lo que encuentra en internet. Esto significa que, si hay información errónea en línea, puede reproducirla y presentarla como cierta. 

A diferencia de un buscador tradicional como Google, que muestra enlaces a fuentes existentes, una IA generativa puede producir información nueva que no existe y presentarla de forma coherente y convincente. Estas invenciones reciben el nombre de “alucinaciones de IA”.

Los chatbots obtienen la información de los contenidos que encuentran en internet, pero no los verifican. Si hay datos erróneos, pueden replicarlos y mostrarlos como ciertos

Pese a parecer expertos en distintos campos, los chatbots pueden ser peligrosas fuentes de desinformación. Extraen la información de muchos textos disponibles en internet, como libros, noticias, y páginas web. Han aprendido a base de ejemplos de conversaciones humanas, por eso parece que hablemos con una persona cuando interactuamos con estas tecnologías, pero es un programario y puede equivocarse. 

Estos errores también pueden aparecer al utilizar la herramienta como si fuese un “amigo” o un “terapeuta”, ya que no siempre ofrece respuestas claras y seguras e, incluso, puede sugerir soluciones peligrosas con consecuencias trágicas. Por ello, los chatbots no son una fuente de ayuda confiable cuando alguien se siente muy triste, nervioso, ansioso, o tiene otras dificultades emocionales.

¿Qué riesgos tiene confiar en la IA generativa?

Utilizar y confiar en chatbots puede parecer inofensivo, pero tiene consecuencias directas hacia las personas. Estas tecnologías de IA generativa pueden adaptarse a las opiniones del usuario y reforzarlas, creando lo que se conoce como “cámaras de eco”, donde se pueden validar falsedades y teorías de la conspiración. 

Pueden parecer inofensivos, pero los chatbots adoptan y refuerzan las opiniones del usuario, creando lo que se conoce como cámaras de eco y reproduciendo sesgos y estereotipos

Además, estos programas pueden reproducir sesgos y estereotipos humanos. ¿Qué os crea ChatGPT si le pedís que os muestre a alguien limpiando la casa? ¿Y si le pedís que os enseñe a una persona trabajando en una oficina? En las respuestas de los chatbots existe la discriminación por razón de raza y género.

Conceptos clave

  1. Alucinaciones de IA. Cuando la IA generativa produce nueva información que no existe, pero parece coherente y convincente. Como parece una respuesta correcta, se comparte fácilmente sin haberla comprobado adecuadamente.
  2. Cámaras de eco. Situación que se da en los medios de comunicación, las redes sociales e, incluso, en los contenidos generados por IA, donde las personas solamente ven o oyen opiniones sesgadas de un determinado tipo o similares a las suyas propias, lo que contribuye a reforzar la creencia de que tienen razón.
  3. Estereotipos. Creencias generalizadas sobre los miembros de un grupo en particular, a menudo basadas en características simplificadas y exageradas. Los estereotipos pueden ser positivos, negativos o neutrales y pueden influir en cómo vemos e interactuamos con los miembros de un determinado grupo.
  4. Teorías de la conspiración. Explicaciones fictícias de situaciones reales que utilizan secretismo y grupos de poderosos para dar respuestas completas y satisfactorias a hechos desconocidos, incómodos o preocupantes. Quienes las divulgan no siempre aportan pruebas sólidas ni rigurosas que las justifiquen.
  5. Sesgos. Cuando tomamos decisiones basadas en ideas preconcebidas que pueden no ser ciertas, y estas nos llevan a acciones o respuestas incorrectas.

¡Descubre cómo funciona la IA en familia!

Para ayudar a los niños y niñas a entender cómo funcionan las IA generativas, como ChatGPT o Gemini, y entender qué quiere decir que se pueden equivocar, hemos preparado una actividad interactiva para jugar en familia. El objetivo es que los más pequeños de casa vean que la IA no siempre tiene razón, que puede reproducir errores o mostrar sesgos, y reflexionar juntos entorno a la idea de que nunca podrá sustituir la interacción humana.

Icono de Whatsapp

Envíenos por WhatsApp lo que quiera verificar y nos pondremos con ello
695 225 233

Educación en la era de la desinformación
Proyectos de alfabetización mediática e informacional para promover una ciudadanía crítica
Desfake
Icono de corazón de donación
Le necesitamos

Con su aportación contribuirá a un debate político más saludable y ayudará a impulsar proyectos educativos para enseñar a navegar el caos informativo y a defenderse de la desinformación.

Artículos relacionados

No se han encontrado artículos relacionados

Especiales

No se ha encontrado nada