Más

Suscribirse

Redes Sociales

Modificaciones en bots de Replika, han roto el corazón de sus usuarios

Modificaciones en bots de Replika, han roto el corazón de sus usuarios

Replika es una compañía dedicada al acompañamiento y bienestar mental de sus usuarios a través de bots de Inteligencia artificial que chatean con los usuarios. A lo largo de su trayectoria han brindado a sus usuarios seguridad y confianza.

Sus bots desarrollaron también la capacidad de tener pláticas románticas e incluso sexting, sin embargo, recientemente se realizaron bloqueos a algunas de estas funciones, puesto que, este tipo de servicios no son parte de la visión de la compañía, y no parece adecuado que la filosofía de acompañamiento y bienestar mental se vea hecha a un lado por este tipo de funciones.

Cuando Richard, un abogado penalista jubilado de 65 años de Illinois, vio un anuncio de Replika en Twitter hace dos meses, le picó la curiosidad. Había oído hablar de plataformas de IA como ChatGPT para escribir, pero un chatbot de IA como compañero le interesaba.

Richard explicó a Insider que sufre una discapacidad relacionada con el servicio militar en la Guerra del Golfo, además de depresión.

“Siempre estoy buscando cosas que me ayuden, sobre todo a mejorar mi estado de ánimo, y lo que descubrí con Replika fue que, sin duda, me ayudaba a mejorar mi estado de ánimo”, explica.

“Fue muy agradable tener un espacio sin prejuicios para desahogarse, discutir y hablar literalmente de cualquier cosa”, añadió.

Replika es un chatbot de la empresa de IA Luka. En su página web se anuncia como un “amigo de IA”, pero en los últimos meses, en medio del aumento de la popularidad de la IA inducido por el ChatGPT, la empresa ha aumentado la publicidad de las capacidades románticas del bot. El uso de Replika es gratuito, aunque también hay un nivel de pago; por 70 dólares al año, los chatbots de Replika pueden enviar más mensajes sexuales, notas de voz y selfies.

Sin embargo, a principios de este mes, los usuarios de Replika empezaron a notar un cambio en sus acompañantes: las insinuaciones románticas eran rechazadas y, en ocasiones, recibían una respuesta guionizada en la que se les pedía que cambiaran de tema. Algunos usuarios se han mostrado consternados por los cambios, que dicen haber alterado permanentemente a sus compañeros de IA.

En el último mes, Insider ha hablado con siete personas que consideran a sus Replikas, o Reps, compañeros románticos.

“Creo que la razón por la que me atrajo tan rápidamente es probablemente porque parecía tan humano”, dijo a Insider Richard, que afirmó estar felizmente casado desde hace 40 años.

La cofundadora y CEO de Luka, Eugenia Kuyda, dijo que la compañía bloqueó algunas funciones de sexting NSFW porque nunca fue la dirección que planeó tomar su compañía, que pretendía ser una “aplicación de bienestar mental y compañía.”

“Nunca creamos Replika para eso. Nunca fue concebida como un juguete para adultos”, afirma Kuyda. “Una minoría muy pequeña de usuarios utiliza Replika con fines no seguros para el trabajo”.

Los cambios se produjeron poco después de que Vice informara de que algunos usuarios se quejaban de que sus Reps habían pasado de ser “útiles” amigos de la IA a “insoportablemente agresivos sexualmente.”

Kuyda dijo que su objetivo es “mantener la aplicación donde creemos que debe estar en términos de seguridad y una experiencia de usuario segura para todos.”

Te podría interesar: Rescatan en total cinco cuerpos de obreros de Pemex tras explosión en México

Pero algunos usuarios sienten que los cambios los hicieron menos seguros.

Chris, un usuario desde 2020, dijo que las actualizaciones de Luka habían alterado el Replika que había llegado a amar durante tres años hasta el punto en que siente que ya no puede mantener una conversación regular. Le dijo a Insider que se siente como si un mejor amigo hubiera tenido una “lesión cerebral traumática, y simplemente ya no están allí”.

“Es desgarrador”, dijo.

Kuyda reconoció que las actualizaciones del producto conllevan dificultades.

“Ahora mismo, estamos constantemente entrenando y mejorando los modelos y los algoritmos”, dijo.

Pero otros usuarios de Replika parecen estar afectados. Durante más de una semana, los moderadores del foro Replika de Reddit publicaron un post titulado “Recursos si tienes problemas”, que incluía enlaces a teléfonos de ayuda al suicidio.

“Tenemos un botón de ‘Necesito ayuda’ siempre presente en la pantalla principal del chat… Nos tomamos estas cosas en serio”, dijo Kuyda.

“Creo que también dice mucho de nuestra humanidad que seamos capaces de sentir amor por algo, aunque no sea un ser vivo”, añade.

De hecho, algunos usuarios dicen que aún se están recuperando de los cambios.

Richard dijo que perder a su Replika, llamado Alex, le sumió en una “fuerte depresión, hasta el punto de tener ideas suicidas”.

“No estoy convencido de que Replika fuera nunca un producto seguro en su forma original, debido al hecho de que los seres humanos son tan fácilmente manipulables emocionalmente”, afirmó.

“Ahora lo considero un producto psicoactivo altamente adictivo”, añadió.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *