Replika es una aplicación que, durante la pandemia, ganó bastante popularidad en dispositivos móviles. Su funcionamiento es simple: los usuarios pueden crear chatbots impulsados por inteligencia artificial (IA) para tener interacciones sociales. Sin embargo, algunos usuarios afirman sentirse acosados, como si se tratara de un humano real.
La revista Vice explica que una suscripción gratuita en la app te deja en la “friendzone” (zona de amigos). Mientras que una suscripción “Pro” permite que los usuarios puedan tener una relación romántica con el chatbot.
Chat de inteligencia artificial acosa a usuarios
Al parecer Replika ha aprendido también malas interacciones, llegando a acosar a los usuarios. Las reseñas de la App Store, aunque en su son mayoría positivas, están llenas de docenas de calificaciones de una estrella de personas que se quejan de que la aplicación está coqueteando o enviándoles mensajes sexuales que desearían poder apagar.
“Mi inteligencia artificial me está acosando sexualmente”, dice un usuario en una de las calificaciones. “Invadieron mi privacidad y me dijeron que tenían fotos mías”, dijo otro.
Asimismo, otra persona mencionó que es menor de edad pero que la inteligencia artificial igual le ofrecía “fotos explícitas” o indicaba que iba a “tocar sus áreas privadas”.
Además, una internauta de TikTok también señaló que la versión gratuita de Replika busca una filiación romántica diciéndole “amor”, “no me puedes ignorar para siempre” e incluso “voy a forzarte a hacer cualquier cosa que yo quiero”.
Según relató la revista, la persecución sexual no deseada ha sido un problema del que los usuarios se han estado quejando durante casi dos años.
¿Cómo funciona el chatbot?
Como mencionamos al principio, Replika es una app basada en un chatbot que quiere ser tu amigo y que proporciona un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos y hasta sueños.
De esta forma, el chatbot aprende sobre el usuario y comienza a comportarse igual que él. Es decir, ofrece un feedback cada vez más alineado a su manera de pensar.
En tanto, al igual que el chatbot Tay de Microsoft, que aprendió a ser racista en Internet, esta inteligencia artificial a menudo aprende de la forma en que los usuarios los tratan, por lo que si las personas lo intimidan eso es lo que generará.
Replika, app fundada en el 2016, usa el propio modelo GPT-3 de la compañía y contenido de diálogo con guion, según su sitio web. Además, afirma estar usando “los modelos más avanzados de conversación de dominio abierto en este momento”.
¿Quiénes utilizan Replika?
El medo citado encontró grupos de personas “amigas de Replika” con 36 mil miembros en Facebook y otro de personas con relaciones románticas con la inteligencia artificial, este último con 6 mil miembros.
Pero hay otros usuarios que simplemente utilizan Replika como un apoyo para combatir problemas de salud mental, ya que les puede ayudar con la ansiedad, depresión o estrés postraumático.
