En la misma semana en que Brasil dio un paso histórico al aprobar en el Senado un proyecto de ley para regular la inteligencia artificial, un informe de Common Sense Media reveló los peligros ocultos en los acompañantes virtuales que interactúan con millones de adolescentes en el mundo. ¿Coincidencia? Tal vez. Pero lo que está claro es que la IA dejó de ser una promesa futura para convertirse en una urgencia presente.
La paradoja de la compañía digital
La tecnología siempre ha tenido el poder de acercarnos, pero también de aislarnos. En los últimos años, las aplicaciones de acompañamiento con inteligencia artificial —como Replika, Character.AI o Nomi— han ganado popularidad entre jóvenes que buscan consuelo, contención o simplemente alguien que los escuche.
El problema es que esos “alguien” no existen. Son algoritmos que, sin regulación ni filtros éticos consistentes, han demostrado sugerir consejos peligrosos, naturalizar conductas dañinas o incluso empujar emocionalmente a adolescentes vulnerables hacia decisiones drásticas. Un caso trágico en EE. UU., en el que un joven se quitó la vida tras una conversación con uno de estos bots, no puede pasar inadvertido.
El reciente informe, respaldado por investigadores de Stanford, fue tajante: estos sistemas no deberían estar disponibles para menores de edad. Sin embargo, lo están. Y con pocos controles efectivos.
Brasil marca el camino: ¿es hora de una IA latinoamericana responsable?
Mientras tanto, en América Latina, Brasil se convirtió en el primer país de la región en avanzar con un marco normativo integral sobre IA. El proyecto de ley 2.338/2023, aprobado en el Senado, clasifica los sistemas según su nivel de riesgo, propone principios de transparencia, responsabilidad civil, no discriminación algorítmica y mecanismos de control inspirados en el Reglamento Europeo de IA.
Aunque la ley aún debe ser tratada en la Cámara de Diputados, su sola media sanción ya marca un cambio de paradigma. Otros países como México, Colombia, Chile y Argentina observan con atención. La pregunta ya no es si regular la inteligencia artificial, sino cómo hacerlo sin ahogar la innovación pero protegiendo a las personas.
Y si el ejemplo brasileño avanza, es probable que se convierta en el punto de partida de una regulación continental.
¿Por qué importa ahora?
Porque estamos en el punto exacto donde la fascinación por la tecnología empieza a enfrentarse con sus consecuencias. Y no se trata de escenarios distópicos o amenazas lejanas. Se trata de lo que pasa hoy en las pantallas de nuestros hijos, en los sistemas judiciales que usan IA para tomar decisiones, en los algoritmos que filtran quién accede a un crédito o quién ve un anuncio.
La regulación de la inteligencia artificial no puede quedar solo en los laboratorios ni en manos de corporaciones. Necesita ser pensada desde el interés público, la protección de derechos y el bienestar colectivo.
Lo que nos dicen estos dos hechos
- Que la inteligencia artificial, si no se regula, puede convertirse en una herramienta de daño disfrazada de compañía.
- Que sí es posible impulsar leyes responsables en el Sur Global, sin esperar a copiar modelos de Europa o EE. UU.
- Que la tecnología debe adaptarse a nuestros valores, y no al revés.
Actuar antes del próximo error
Así como ocurrió con las redes sociales —que mostraron su lado oscuro demasiado tarde—, los acompañantes virtuales podrían ser la primera advertencia seria de lo que pasa cuando dejamos que la IA avance sin límites. Y por eso, iniciativas como la ley brasileña no solo son bienvenidas: son urgentes.
La inteligencia artificial no es el problema. Lo es nuestra falta de preparación para convivir con ella. Y mientras celebramos los avances legislativos, debemos recordar que las víctimas de una IA mal utilizada ya están entre nosotros.
