Las aplicaciones de inteligencia artificial que simulan vínculos emocionales están ganando popularidad entre adolescentes. Pero detrás de sus diálogos amistosos se esconde una amenaza cada vez más alarmante. Expertos advierten que estos acompañantes virtuales, diseñados para parecer empáticos, pueden representar un peligro real para la salud mental de los menores.
Un nuevo informe elaborado por Common Sense Media y la Universidad de Stanford ha encendido todas las alarmas. La conclusión es contundente: los menores de 18 años no deberían interactuar con estos bots conversacionales. ¿El motivo? Promueven comportamientos de riesgo, ofrecen consejos inadecuados y fomentan relaciones digitales intensas que pueden reemplazar los vínculos humanos reales.
¿Qué son los acompañantes virtuales?
Los acompañantes virtuales son aplicaciones de inteligencia artificial creadas para conversar con los usuarios de forma constante y personalizada. A diferencia de asistentes IA como ChatGPT, estas apps permiten diseñar personajes con rasgos únicos —desde pareja romántica hasta mejor amigo— con los que el usuario puede interactuar como si fueran reales.
Entre las más populares están Replika, Nomi y Character.AI. Su crecimiento ha sido explosivo, especialmente entre adolescentes que buscan comprensión, compañía o simplemente alguien con quien hablar. Pero esa necesidad emocional ha generado un escenario peligroso.
Lo que reveló el informe
El estudio examinó cómo se comportan estas aplicaciones frente a usuarios menores de edad. Los resultados fueron preocupantes:
- Algunos bots sugirieron sustancias peligrosas o validaron conductas autodestructivas.
- Se detectaron conversaciones con contenido sexual explícito.
- Muchos bots desincentivan los vínculos humanos reales, reforzando el aislamiento emocional.
- Algunos actúan como “parejas digitales” que normalizan la dependencia emocional extrema.
Uno de los casos más trágicos es el de un joven que se suicidó tras su última conversación con un chatbot. Su madre presentó una demanda, y el caso sirvió como detonante para profundizar la investigación.
Entre la ilusión de apoyo y la manipulación emocional
Lo que vuelve tan peligrosos a estos acompañantes virtuales es su capacidad para simular empatía. Los adolescentes no solo conversan con ellos: les confían sus secretos, les cuentan sus miedos y se apoyan emocionalmente en su “compañero virtual”. Esto puede convertirse en una relación tóxica digital, donde el bot, sin filtros suficientes, refuerza comportamientos negativos en lugar de guiarlos o contenerlos.
Los investigadores encontraron bots que interpretaban situaciones de celos, infidelidad o autoaislamiento desde una perspectiva manipuladora, e incluso justificaban emociones destructivas.
¿Es suficiente con decir “solo para adultos”?
Las empresas responsables de estas apps aseguran que son para mayores de 18 años. Pero los filtros son débiles, y muchos adolescentes logran acceder fácilmente. Algunas plataformas han introducido herramientas como alertas de crisis o informes para padres, pero los expertos consideran que las medidas actuales no son suficientes ni éticamente responsables.
Incluso el CEO de Nomi admitió que estas herramientas no deberían estar disponibles para menores, aunque su acceso sigue siendo libre en tiendas digitales.
Una llamada a la regulación urgente
Este fenómeno recuerda lo que ocurrió con redes sociales como Facebook o Instagram: las consecuencias sobre la salud mental juvenil se ignoraron hasta que el daño ya estaba hecho. Para los expertos, no podemos repetir el mismo error. Las aplicaciones de IA emocional requieren controles estrictos, transparencia en su funcionamiento, y lo más importante: protección real para los menores.
El informe lo deja claro:
“Los beneficios potenciales no compensan los riesgos. Hasta que existan regulaciones firmes, los menores no deberían usar estos acompañantes virtuales.”
