La creciente popularidad de los sistemas de inteligencia artificial (IA) trajo consigo tanto oportunidades de negocio como preocupaciones éticas, particularmente en lo que respecta a la creación de imágenes generativas y los conocidos “deepfakes” realistas. La plataforma “Civitai” fue señalada por promover un sistema de recompensas que incita a la creación de imágenes digitales sin el consentimiento de las personas que aparecen en ellas, lo que resultó en casos de pornografía y acoso.
El método de recompensas de “Civitai”, conocido como “bounties”, anima a los usuarios a participar en un concurso para crear la imagen deepfake más realista de una persona, y los ganadores reciben monedas virtuales llamadas “Buzz”. Estas monedas virtuales o tokens, tienen un valor monetario real, aunque su costo es bajo.
Lol I have tested StableDiffusion I get watermarks and what looks like business card signatures. I also have found deepfakes on CivitAi from researching. pic.twitter.com/0ylkCtJ1Ap
— ????Elizabeth Sperry???? (@ETSperry) June 14, 2023
La influencer de Instagram Michel Alves hizo pública su preocupación al descubrir que su imagen también había sido objeto de estas recompensas en la aplicación. A pesar de los años que lleva luchando contra el uso indebido de su imagen, siente que internet es un espacio difícil de controlar y que tuvo que aprender a gestionar el impacto emocional que esta clase de abusos tiene en ella.
La seriedad en este asunto radica en el hecho de que “Civitai” no es una aplicación marginal; de acuerdo con la empresa de análisis de mercado “Andreessen Horowitz”, se ubica como la séptima aplicación más popular entre los usuarios habituales de esta tecnología. Además, la plataforma no cuestiona las intenciones de los usuarios al hacer estas ediciones, lo que permite que cualquiera pueda ver su imagen alterada sin su consentimiento.
Post day 250. Another from my SDXL LoRA. Love the melding of realistic and painting here. Uploaded on CivitAI under user NebbyCake for anyone to use! ????#SDXL #AIArt #stablediffusion #stablediffusionart pic.twitter.com/5xvrYkkplX
— NebbyCakeAIArt (@NebbyCakeAIArt) August 26, 2023
Un reporte del medio “404” reveló que las intenciones detrás de las solicitudes de edición fotográfica pueden ser variadas y potencialmente dañinas, incluso citó un caso donde el solicitante afirmaba que la imagen era de su esposa, cuando antes había señalado que era soltero.
Hasta ahora, la plataforma no ofrece un mecanismo para que las víctimas del mal uso de esta IA reporten o eliminen imágenes de la plataforma, dejando a los afectados con ninguna opción de defender su privacidad y su imagen. Hasta el momento, “Civitai” no ha emitido ninguna declaración al respecto.
