ChatGPT es una herramienta que, a pesar de su búsqueda por precisión, se sumerge en un matiz cultural cargado de tensiones y contradicciones. Ese fue un problema señalado por la comunidad negra, la cual indica, la plataforma no atiende a preguntas específicas sobre determinadas comunidades, además indican que tiene un sesgo bastante eurocéntrico y occidental.
Si le preguntas al modelo en general quiénes son algunos de los artistas más importantes de nuestra cultura, te dará Leonardo da Vinci y Miguel Ángel. No va a decir nada sobre India o China, África o incluso los afroamericanos, porque tiene un sesgo que se centra en la trayectoria europea de la historia", afirma John Pasmore, quien lanzó Latimer.AI, un modelo de respuesta para atender a preguntas de personas de color.
La tarea no es sencilla teniendo en cuenta los modelos de IA generalizados y sus limitaciones para capturar fácilmente la experiencia afroamericana, la cual puede llegar a ser muy heterogénea. Además, muchas tradiciones y dialectos dentro de la cultura afroamericana se transmiten oralmente o de primera mano. En este sentido, muchos aspectos quedan fuera de Internet y, por lo tanto, fuera de las fuentes de la IA.
Frente a este problema, Pasmore se centró en fuentes como Amsterdam News, uno de los periódicos negros más antiguos de Estados Unidos, esto por la precisión en lugar de la capacitación sobre datos generados extraídos de Internet.
Así, Pasmore comentó para TechCrunch que una vez le consultó a ChatGPT sobre el ferrocarril subterráneo utilizado por los esclavos para escapar al norte del país. La plataforma hablaba de "esclavos fugitivos", mientras que Latimer.AI indica que se trataban de sujetos "esclavizados" o "personas en busca de libertad". De esta forma, asevera, "hay algunas diferencias sutiles en el lenguaje que utiliza el modelo debido a los datos de entrenamiento, y el modelo en sí solo piensa en las personas negras y de color", afirmó Pasmore.
Para futuros avances, Pasmore tiene planeado expandir su empresa a las escuelas, especialmente a las Escuelas y Universidades históricamente negras (HBCU), a medida que cada vez más estudiantes recurren a ChatGPT todos los días para completar sus trabajos. "Este es un mejor compañero de IA para gran parte del trabajo que deben realizar los niños negros y morenos", considera Pasmore.
Otras plataformas como Latimer.AI han nacido con finalidades similares, tales como ChatBlackGPT y Spark Plug con sede en Canadá. Además, muchas plataformas están surgiendo en África para incluir a los cientos de idiomas y dialectos que contiene el continente. (NotiPress)
.gif)