Las usamos a diario, pero apenas sabemos nada sobre cómo determinan las 'apps' qué perfiles y contenido nos deben sugerir. Un experimento sugiere que TikTok se basa en criterios raciales para ofrecernos perfiles que nos pueden interesar. La compañía niega que sea una decisión consciente.
Un experimento ha levantado sospechas en torno al criterio con el que la popular aplicación TikTok sugiere perfiles similares a los perfiles seguidos.
Por lo que ha observado el investigador de inteligencia artificial y desinformación de la Universidad de California en Berkeley Marc Faddoul, se puede sugerir que hay un importante criterio racial que determina las recomendaciones que nos hacen los algoritmos de TikTok.
La cosa funciona así: cuando sigues a una nueva cuenta puedes clicar en una flecha que te recomienda otras cuentas a las que seguir. Faddoul se percató de que los perfiles de las personas que le recomendaba la aplicación tenían un parecido considerable con la persona a la que acababa de seguir, incluida la raza y el color de cabello.
El descubrimiento se produjo casi de casualidad, mientras Faddoul examinaba la aplicación en busca de desinformación, y así lo recalcó el investigador. Sin embargo, al hacerse una cuenta nueva para verificar los resultados, estos volvieron a sorprender al estadounidense:
A TikTok novelty: FACE-BASED FITLER BUBBLES
— Marc Faddoul (@MarcFaddoul) February 24, 2020
The AI-bias techlash seems to have had no impact on newer platforms.
Follow a random profile, and TikTok will only recommend people who look almost the same.
Let’s do the experiment from a fresh account:
1/6 pic.twitter.com/VAwkh3qNjv
La aplicación asegura que, de ser cierto, no se trata de una decisión consciente de la compañía. Sea como sea, esta información pone sobre la mesa el necesario debate sobre cómo emplean los algoritmos y la inteligencia artificial las apps que usamos a diario para promover personas y contenido.
.gif)