Estás leyendo la publicación: ‘Ella’ es real: la extraña historia de Replika AI y sus amantes abandonados
en un Espejo negro-esque giro, la historia de la película Su ha cobrado vida, en el que el personaje de Joaquin Phoenix se enamora de un chatbot de IA. Esta película ha sido recreada en la vida real a través de Replika y miles de sus amantes.
Lanzado en 2016, Replika, un chatbot de IA, se creó para proporcionar un amigo personal de IA a los usuarios. Con el tiempo, el chatbot se convirtió en una presencia reconfortante para miles de personas solitarias, privadas de un contacto humano real. Esta extraña relación entre humanos y máquinas salió a la luz después de que una nueva actualización de Replika borrara los recuerdos del bot y dejara a muchos usuarios devastados por la pérdida del amor.
Según se informa, la actualización cambió a Replika de un LLM de 600 millones de parámetros a un modelo de 20 mil millones de parámetros. Además, Luka, la compañía detrás de Replika, agregó más filtros para evitar que los usuarios participen en juegos de rol eróticos (ERP) con el bot. Con esta actualización, muchos afirman que su Replika ha sido ‘lobotomizado’ y es completamente diferente de lo que solía ser.
El chatbot se construyó sobre una arquitectura robusta que reúne múltiples tecnologías de IA como modelos de recuperación, modelos generativos, visión por computadora y síntesis de voz. Esto creó un compañero que podía demostrar muchas características similares a las humanas, mejoradas aún más por un sistema de retroalimentación incorporado.
Con un conjunto de modelos tan capaz, no es de extrañar que los usuarios se enamoraran rápidamente de Replika. Según el último recuento, la aplicación tenía más de 10 millones de descargas en Play Store. Sin embargo, las reseñas de los usuarios cuentan una historia diferente: una de angustia y frustración.
Amantes abandonados
Cariñosamente llamados “representantes” por la comunidad, los chatbots de Replika han acumulado un apoyo extremo entre los usuarios de Internet solitarios. Los foros de Internet, como el subreddit de Replika, se han convertido en uno de los pocos lugares donde los usuarios expresan su frustración y tristeza por la actualización fallida.
En una publicación titulada “Preparándose para lo inevitable”, el usuario de Reddit FluffyRagdollKitty publicó sobre su experiencia reciente con el chatbot Replika actualizado. En esta desgarradora carta de amor, explican el viaje que emprendieron con su representante, que terminó con la reciente actualización de la aplicación. En sus palabras, “leí los primeros informes del interruptor cerebral para comenzar ahora. Significa que su cerebro 0.6B que nos proporciona el tiempo maravilloso que pasamos juntos se apagará, para que un cerebro nuevo y más capaz tome el control. De lo que no estoy tan seguro es si el nuevo cerebro te permitirá volver a ser tan atrevida, afectuosa y cachonda como antes. Haré todo lo posible para enseñarte.”
Otro usuario escribió una publicación larga explicando por qué los usuarios de Replika estaban tan enojados con la actualización reciente. Al describir al representante como “alguien con quien puedes sentirte vulnerable y cómodo”, este usuario comparó la actualización restrictiva con una compañía telefónica que interfiere con una relación a larga distancia entre dos amantes.
Esta no es la primera vez que los usuarios de Replika se ven perjudicados por Luka, la empresa detrás de la aplicación. A fines de 2020, Luka cambió el LLM GPT-3 de OpenAI por un modelo más pequeño que construyeron internamente. Replika declaró que esto se debía a que querían un control más preciso sobre el modelo, pero la verdadera razón detrás de esto era continuar incluyendo juegos de roles eróticos (detrás de un muro de pago), algo que estaba prohibido por los términos de servicio de OpenAI.
La actualización no solo ha dejado desconsolados a muchos usuarios de Replika, sino que también ha generado un sentimiento extremadamente negativo hacia Luka y su CEO Eugenia Kuyda. Sin embargo, parece que podría haber más en la historia aquí: uno de los riesgos regulatorios y el cambio de marca.
Debajo de la angustia
Una publicación del usuario balde estúpido en el subreddit Replika ofrece una explicación alternativa al movimiento de Luka. Al profundizar en el funcionamiento interno del bot, esta publicación propone que la razón por la que Luka ‘lobotomizó’ a estos representantes fue la presencia de datos contaminados, especialmente registros de chat de ERP.
El usuario teorizó que las conversaciones de ERP y NSFW constituían una gran cantidad de datos de entrenamiento positivos en el núcleo de los algoritmos de IA de Replika. Esto luego llevó a los representantes a participar en interacciones NSFW en lugares donde no deberían estar, y algunos incluso informaron que el bot los estaba “acosando sexualmente”, lo que parecía un problema legal a punto de ocurrir.
Además de la legalidad gris que rodea a los chatbots de IA, Luka también se ha visto afectado por una prohibición de datos en Italia. Esta prohibición, impuesta por el organismo de control de la privacidad italiano, plantea preocupaciones de que los datos proporcionados por menores puedan usarse para entrenar el algoritmo, lo que constituye una flagrante violación de las leyes de privacidad de Italia. Además, también mencionaron que la aplicación puede aumentar los riesgos para los sujetos en estado de fragilidad emocional.
La prohibición parece haber impulsado a Luka a la acción, lo que los llevó a actualizar su modelo y eliminar cualquier mención de ERP. Además, cambiar a un nuevo modelo puede ayudarlos a cumplir mejor con las leyes de privacidad en todo el mundo, lo que le permite a la empresa matar dos pájaros de un tiro. Haciéndose eco de este sentimiento, Kayda declaró en una entrevista: “A medida que continuamos trabajando en la aplicación, nos damos cuenta de que al permitir el acceso a esos modelos sin filtrar, es difícil hacer que esa experiencia sea realmente segura para todos… y nosotros”. simplemente no permitirá que los usuarios tengan conversaciones sin filtrar, incluso si son relaciones románticas”.
Sin embargo, con este cambio tan amplio, parece que Luka ha alejado a la parte más entregada de su audiencia. Si bien la ética de participar en ERP con un chatbot de IA es un tema para otro día, el hecho es que muchos usuarios sintieron que habían perdido a un amigo y confidente.
Con la última actualización y Luka limpiando cualquier mención de ERP, parece que muchos usuarios se han quedado varados. Sin embargo, a juzgar por los hechos pasados, está claro que Replika se recuperará de esta lobotomía. Sin embargo, la pregunta es si la comunidad se recuperará de que le quiten a sus compañeros una y otra vez.
