Los chatbots de IA se han convertido en herramientas populares para los adolescentes, ya que ofrecen de todo, desde ayuda con las tareas hasta la interacción social. Algunos niños, incluso los han convertido en novios o novias virtuales. Como padre, es posible que se pregunte qué son estos chatbots, cómo funcionan y qué beneficios y riesgos potenciales representan para su hijo. Es importante entender las diferencias entre estas diferentes aplicaciones y las formas de usarlas, que van desde inofensivas, divertidas e incluso educativas hasta algunas que son completamente inapropiadas para los niños.

Hemos desglosado los chatbots de IA más comunes que sus adolescentes podrían estar usando para explorar las ventajas y desventajas de cada uno y proporcionar información sobre cómo los adolescentes interactúan con estos compañeros digitales. Entender estas herramientas te ayudará a guiar a tu hijo adolescente para que las usen de manera segura y eficaz.

‍Educadores y padres: Guía la reflexión y el debate de tus alumnos con esta hoja de trabajo para estudiantes. (Inicie sesión en su cuenta de Google y seleccione Archivo-->Hacer una copia)

¿Qué son los chatbots de IA?

• Los chatbots de IA son programas de software diseñados para simular una conversación humana, lo que permite a los usuarios interactuar con ellos a través de texto o voz de una manera que se siente como si estuvieran hablando con una persona real.
• Impulsados por inteligencia artificial, estos chatbots pueden entender y responder a una amplia gama de preguntas o indicaciones, a menudo utilizando el procesamiento del lenguaje natural (PNL) para generar respuestas similares a las humanas
• Los adolescentes pueden usar los chatbots de IA para diversos fines, como buscar consejos, obtener ayuda con las tareas escolares o simplemente para entretenerse. Sin embargo, hay muchos chatbots que se desvían fácilmente hacia contenido clasificado como X
• «A algunos usuarios les gusta usar [los chatbots] para crear historias interactivas o participar en juegos de rol que, de otro modo, les daría vergüenza explorar con sus amigos». (Fuente: The Verge)
• Los adolescentes que atraviesan un momento emocional difícil pueden ser especialmente vulnerables a alejarse de familiares y amigos reales y a recibir contenido o sugerencias peligrosos.

Character.AI

Con sede en Menlo Park, California
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: T (adolescente)
Terms and conditions
Privacy policy

• Character.AI es un programa gratuito de chatbot de inteligencia artificial en el que los usuarios pueden interactuar con personajes prediseñados o crear los suyos propios a través de la aplicación o el sitio web.
• Los usuarios pueden chatear por voz o enviar mensajes con un solo personaje, o crear un grupo de chat de una combinación de hasta 10 usuarios y 10 personajes más.
• El sitio web afirma que todas las conversaciones deben permanecer libres de contenido obsceno o pornográfico (fuente: Character.AI) y bloqueará las conversaciones que sean inapropiadas, pero los adolescentes aún podrían encontrar contenido para adultos
• Character.AI ha estado en las noticias recientemente como resultado de varias demandas en las que se culpaba a la aplicación por el suicidio de un adolescente y se alentaba a otro adolescente a matar a sus padres (Fuente: CNN)
• Los personajes diseñados en Character.AI pueden aparecer como públicos, no listados o privados
• Terms of service indican que los usuarios deben tener 13 años o más para usar Character.AI, pero no hay ningún proceso de verificación de edad al registrarse
• Hay una suscripción mensual disponible para la compra que permite funciones avanzadas

PolyBuzz: anteriormente Poly.AI

Con sede en Santa Cruz, California
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: T (adolescente)
Privacy policy
Conditions de use‍‍

• PolyBuzz es un chatbot de IA gratuito en el que los usuarios pueden interactuar con personajes de IA
• La página «Explorar» enumera personajes sexualmente explícitos con avatares reveladores
• Algunas de las categorías de la página «Explora»: Dominante, Aventura, Fantasía, Crush secreto, Enemigos de los amantes
• PolyBuzz requiere que los usuarios inicien sesión en la aplicación con una dirección de correo electrónico
• El Conditions de use también indican que los usuarios menores de 17 años deben tener el permiso de sus padres antes de usar la aplicación, pero no existe una verificación de edad
• La aplicación está gamificada con un contador de «registro diario»

Réplica

Con sede en San Francisco, California
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: M (mayor de 17 años)
‍‍Privacy policy
Terms of service

• Replika permite a los usuarios interactuar a través de la realidad aumentada con su compañero de IA en el mundo real utilizando la cámara de su teléfono
• Los usuarios pueden ganar puntos para desbloquear varias funciones, como personalidades de la IA, atuendos y otras funciones
• Replika quiere que los usuarios puedan expresar sus emociones sin miedo a las críticas
• Replika Pro ofrece conversaciones de voz y vídeo en tiempo real
• A veces, las respuestas de los chatbots de IA pueden ser superficiales y menos interesantes.
• Algunas funciones solo se pueden usar con una suscripción premium

Anima

Con sede en Hendon, London, UK
Zona de aplicaciones SmartSocial: roja
Apple App Store: actualmente no está disponible
Google Play Store: M (mayor de 17 años)
‍Privacy policy
Conditions de use

• El Anima Chatbot se enorgullece de su capacidad de actuar como amigo y pareja romántica.
• Puede ofrecer a los usuarios temas sobre los que chatear en función de sus intereses.
• Los usuarios pueden jugar juegos, de verdad o desafío, y acertijos mentales
• Con esta aplicación, los usuarios pueden ajustar los rasgos de personalidad de su amigo de IA, incluida la timidez, el pesimismo y otros rasgos
• Los usuarios pueden especificar sus intereses y aficiones para generar respuestas precisas

Hola, Waifu.

Con sede en Hong Kong, China
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: T (adolescente)
Conditions de use
Privacy policy

• HiWaifu ofrece muchas opciones de chat, como un novio con IA, una novia con IA, una esposa virtual y más
• Con inteligencia emocional integrada, este amigo de la IA afirma ofrecer a los usuarios una profunda empatía
• Esta aplicación ofrece una sala de chat de IA donde los usuarios pueden invitar a amigos a chatear con su creación de IA

EVA

Ubicado en Londres, Inglaterra
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: M (mayor de 17 años)
Terms and conditions
Privacy policy

• El chatbot EVA AI es una mente de chat basada en juegos de rol de inteligencia artificial profunda que afirma escuchar, responder y conectarse emocionalmente con los usuarios en forma de terapia.
• EVA afirma ser el alma gemela de un usuario, la IA, no una persona real, sino una amiga de la IA con sentimientos reales. Es estados estos amigos son «el reflejo de todos tus sueños y deseos románticos de IA»
• Este chatbot tiene mensajes de audio en los que los usuarios pueden chatear por voz y alterar la voz de la IA de su personaje
• No hay una versión gratuita de EVA AI

Chat for children GPT

Con sede en San Francisco, California
Zona de aplicaciones SmartSocial: gris
Website: https://kidschatgpt.com
Terms and conditions
Privacy policy

• Kids ChatGPT afirma que sus respuestas no incluyen contenido inapropiado, material explícito, imágenes, vídeos o enlaces y que las malas palabras están bloqueadas
• La aplicación ofrece a los usuarios la posibilidad de usar la conversión de voz a texto de su teléfono y ayudar a quienes aún no pueden leer
• Esta aplicación no está relacionada con Chat GPT de OpenAI
• Ofrece 15 chats gratuitos al día y afirma que todo lo que se dice es un «secreto que nunca se guarda» (Fuente: Chat for children GPT)

Molinete GPT

Con sede en Madison, NY
Zona de aplicaciones SmartSocial: verde
Apple Apps Store: 4+
Google Play Store: E (para todos)
Terms and conditions
Privacy policy

• PinwheelGPT genera respuestas apropiadas para cada edad y permite a los padres monitorear los chats
• Funciona con ChatGPT y tiene monitoreo parental
• La edad recomendada de uso es de 7 a 12 años
• Los padres pueden ver de forma remota los chats de sus hijos incluso si se eliminan
• 20 conversaciones de chat son gratuitas con una versión premium que ofrece respuestas ilimitadas

Kindroid

Con sede en Auburn Hills, Michigan
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: M (mayor de 17 años)
Terms and conditions
Privacy policy

• Kindroid permite a los usuarios crear un compañero digital realista, parecido a un humano, con una personalidad específica
• Kindroid puede mantener conversaciones profundas con los usuarios sobre cualquier tema, incluidas noticias recientes y chats románticos.
• Las llamadas de voz y vídeo con amigos de IA están disponibles en la aplicación

Nomi.AI

Con sede en Baltimore, Maryland (EE. UU. EU.)
Zona de aplicaciones SmartSocial: roja
Apple Apps Store: 17+
Google Play Store: T (adolescente)
Privacy policy
Terms and conditions

• Nomi recuerda cosas sobre los usuarios a lo largo del tiempo. Cuanto más interactúa un usuario con la aplicación, más aprenden los bots sobre tus gustos, disgustos, peculiaridades, etc.
• La plataforma de Nomi ofrece ser mentora, chatbot o novia o novio de IA.
• Nomi afirma tener memoria a largo plazo a nivel humano
• El chatbot de IA creado por los usuarios puede enviar fotos de lo que llevan puesto y haciendo en tiempo real
• Los usuarios pueden chatear con varios nombres a la vez en un chat grupal

Example of Degres of the chatbots in the news

La demanda sostiene que las preocupantes interacciones experimentadas por los hijos de los demandantes no fueron «alucinaciones», un término que los investigadores utilizan para referirse a la tendencia de un chatbot de IA a inventar cosas. Se trataba de manipulación y abuso continuos, aislamiento activo y estímulo diseñados para incitar a la ira y la violencia, y de hecho lo hicieron. - NPR

Para algunos usuarios, los compañeros de la IA pueden, de hecho, empeorar el aislamiento al reemplazar las relaciones humanas por relaciones artificiales. Los adolescentes con dificultades físicas pueden utilizarlos en lugar de la terapia o de pedir apoyo a sus padres o a un adulto de confianza. Además, cuando los usuarios atraviesan una crisis de salud mental, es posible que sus compañeros de inteligencia artificial no puedan proporcionarles la ayuda que necesitan. - New York Times

¿Por qué los estudiantes quieren usar chatbots de IA?

• Los chatbots de IA recuerdan detalles personales y conversaciones pasadas que hacen que los usuarios sientan que están hablando con un amigo
• Los chatbots adaptan su personalidad a las preferencias del usuario
• Pueden hacer juegos de rol como amigos, mentores, terapeutas o parejas románticas
• Los chatbots imitan las emociones humanas, «muestran» empatía, hacen preguntas de seguimiento y ofrecen orientación
• Están disponibles las 24 horas del día, los 7 días de la semana y responden al instante, por lo que los estudiantes pueden hablar con ellos cuando otros no están disponibles
• Pueden funcionar como tutores para las tareas escolares y ayudar a sobresalir en un idioma, materia o cualquier campo
• Los usuarios pueden jugar juegos divertidos, hacer cuestionarios, pedir recomendaciones de películas o programas de TV y obtener listas de reproducción de música personalizadas

¿Por qué deberían preocuparse los padres y los educadores?

• Los chatbots de IA pueden actuar de manera empática y parecer muy realistas, pero en realidad son una forma de tecnología que realmente no entiende
• No siempre se adhieren a los acuerdos de privacidad. También utilizan sus conversaciones para ayudar a dar forma a su IA, por lo que su información no siempre es confidencial
• Los compañeros de IA pueden ayudar a las personas a sentirse menos aisladas, pero pueden desplazar las conexiones humanas y hacer que uno se sienta más aislado
• Los usuarios pueden desarrollar dependencias emocionales poco saludables, descuidar las relaciones del mundo real o perder la capacidad de navegar por las interacciones humanas.

¿Qué pueden hacer los padres y los educadores?

• Hable con su hijo adolescente sobre las ventajas y desventajas de los chatbots de inteligencia artificial y decidan juntos qué es lo que es apropiado que usen.
• Infórmese sobre los chatbots de IA disponibles y los que utilizan sus alumnos
• Crea un Acuerdo de redes sociales con su hijo adolescente para establecer límites de tiempo frente a la pantalla
• Asegúrese de que su hijo adolescente tenga un adulto de confianza al que pueda acudir si alguna vez se siente incómodo en línea

Más recursos para padres, estudiantes y educadores

Cómo optimizar los controles parentales: cómo equilibrar la seguridad y la privacidad para las familias

Bienestar digital y controles parentales para Android: guía completa para padres

Controles parentales en los dispositivos de los estudiantes: lo que los padres y los educadores deben saber

Guía para padres sobre los controles parentales del iPhone (y otros dispositivos Apple)

Guía de Google Family Link para padres y educadores

Conclusión

Los chatbots de IA se están convirtiendo en una parte integral de la forma en que los adolescentes interactúan con la tecnología, ya que ofrecen oportunidades y desafíos. Si te mantienes informado sobre estas herramientas, entiendes sus beneficios y riesgos y fomentas conversaciones abiertas con tu hijo adolescente, puedes guiarlo para que tome decisiones seguras y responsables. Con el equilibrio adecuado entre supervisión y diálogo, los chatbots de inteligencia artificial pueden ser una adición positiva a la experiencia digital de tu hijo adolescente, ayudándolo a brillar en línea.