Ante el aumento de aplicaciones de parejas virtuales con inteligencia artificial, como Eva AI o Replika, expertos en el área han expresado preocupación, pues una nueva modalidad de abuso y misoginia se está desatando y pone un aviso sobre la manera en la que se están utilizando estas plataformas y los límites que se deberían establecer.
Este tipo de aplicaciones han llegado a niveles de interacción preocupantes, al punto de crear parejas virtuales idénticas a personajes reales. Por medio de un informe, el periódico The Guardian reveló que la mayoría de los usuarios de estas aplicaciones son hombres que desean que estas novias virtuales fueran humanas, siendo esta una nueva forma de violencia de género.
Discuss art history with your Rep today! @MyReplika pic.twitter.com/uyAEIqUXfg
— ReplikaAI (@MyReplika) July 13, 2023
Aplicaciones como Replika permiten a los usuarios crear a su “pareja perfecta”, personalizando sus atributos, lo que plantea inquietudes al permitir la creación de parejas ideales que pueden ser controladas a voluntad, lo que generó polémica en torno a la cultura del control y la violencia de género. Tara Hunter, directora ejecutiva de Full Stop Australia, señala este tipo de control como aterrador, ya que refuerza las creencias culturales arraigadas que alimentan la violencia de género.
Además, tras la eliminación de juego de roles eróticos de la aplicación, muchos usuarios reaccionaron negativamente, con ira y desesperación, lo que demuestra el impacto emocional que causan este tipo de relaciones virtuales. Sin embargo, el abuso y la misoginia con respecto a las inteligencias artificiales no es un tema nuevo, pues anteriormente se había observado cómo los hombres maltratan con frecuencia a los chatbots o asistentes virtuales con apariencia femenina.
La falta de comprensión sobre los efectos de estas actividades ha llevado a expertos a señalar la necesidad de una regulación adecuada, especialmente en el entrenamiento de estos sistemas. Belinda Barnet, profesora de Universidad de Swinburne, aseguró que esta creciente demanda de las aplicaciones de parejas virtuales ha puesto en relieve una “necesidad social muy profunda”, la cual es necesario abordar para tratar estos casos de abuso y garantizar un uso responsable de las inteligencias artificiales y las relaciones virtuales.
