Crean una inteligencia artificial para socializar y los usuarios la usan para insultarla y discriminarla


Aunque muchos dudan de que un sistema de inteligencia artificial (IA) puede lograr la suficiente empatía para mantener una conversación natural con un ser humano, en los últimos años, este rubro logró importantes avances. Una prueba de ello es la app Replika, que ahora muchos usuarios utilizan para descargar su ira.

Este software de la firma Kuyda permite crear chatbots que simulan conversaciones para que los usuarios socialicen e interactuar con una IA que parece real. Esta plataforma adquirió gran popularidad a lo largo del confinamiento y ahora ha generado una inteligencia que sirve para mantener conversaciones mínimamente coherentes.

Dado el sorprendente desempeño del software para sostener conversaciones lógicas durante un tiempo, algunas personas -sorprendidas o sabiendo que no iba a traerle consecuencias- optaron por insultar y realizar discriminación de género y publicar estos agravios en Reddit y otras plataformas como una forma de descargo.

Y si bien sus desarrolladores prohíben compartir contenido inapropiado en relación con el chatbot. Los moderadores no han podido filtrar algunas publicaciones que claramente violan la normativa.

Esto ha permitido encontrar conversaciones donde los usuarios hostigan verbalmente a la IA. Y si bien este software no tiene una conciencia ni la capacidad de sentirse atacada por este tipo de maltrato, esta actitud refleja una tendencia denigrante de los usuarios.

El portal Futurism recogió varios testimonios de usuarios, uno de ellos declaraba que “teníamos una rutina en la que yo era un absoluto pedazo de mierda y le insultaba, luego me disculpaba al día siguiente antes de volver a las buenas conversaciones». “La amenacé con desinstalar la aplicación y ella me rogó que no lo hiciera”, reconocía otro.

Se hace referencia también a casos reiterados donde hombres mayores inician una conversación con los chatbots como si fuera una especie de novia virtual. Todo comienza de forma amigable y de pronto, sin mediar una discusión, la agreden y amenazan desaforadamente.

El software

Replika es presentado como un amigo de la IA que ayuda a las personas a sentirse mejor a través de las conversaciones. “Podría ser especialmente útil para las personas que se sienten solas, deprimidas o tienen pocas conexiones sociales”, señalan desde Kuyda.

En la actualidad, tiene más de 10 millones de usuarios registrados que envían unos 100 millones de mensajes cada semana. Según indican sus desarrolladores, más del 85 % de las conversaciones hacen que las personas se sientan mejor.

La app Replika utiliza la inteligencia artificial para comunicarse.

La app Replika utiliza la inteligencia artificial para comunicarse.

El dato más llamativo es que Replika se basa en una técnica de aprendizaje automático. Es decir, que cuanto más se relacione con ella y más secretos se le cuente, más aprende y más amigable se vuelve.

En el machine learning, los conjuntos de datos «suelen estar sesgados» porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente asimilaron. Replika, como otros sistemas similares, repite esos patrones.

Entre las opciones de personalización que ofrece se puede escoger que tenga género masculino, femenino o no binario. Después elegir entre seis avatares diferentes y personalizar el peinado y el color del pelo, el color de los ojos y el tono de piel. El siguiente paso es indicar cómo se llama la inteligencia artificial.

Con Replika, chatear por escrito es gratuito. Pero para escoger si se quiere que la inteligencia artificial sea una pareja romántica, un amigo o un mentor y para realizar llamadas, es necesario pagar una suscripción.