El ciudadano noruego, Arve Hjalmar Holmen, presentó una denuncia contra la empresa estadounidense OpenAI, responsable del chatbot ChatGPT, luego de que esta le atribuyera falsamente el asesinato de sus dos hijos. El caso fue llevado ante la Autoridad Noruega de Protección de Datos por el grupo de derechos digitales Nayb ante la preocupación sobre la precisión y los riesgos de la información falta en la inteligencia artificial.
De acuerdo con el hombre, solicitó información sobre él mismo al chatbot, la cual le afirmó que había matado a sus hijos en un “trágico accidente” en diciembre de 2020 en Trondheim, Noruega. Además, aseguró que Holmen había sido condenado a 21 años de prisión, la pena máxima en el país.
Sin embargo, se trata de información falsa, ya que Holmes nunca ha sido acusado de algún delito, y aunque el chatbot proporcionó información parcialmente verdadera otra fue inventada. Ante esta situación, Holmen expresó su preocupación sobre los efectos que la desinformación podrían tener en su reputación y en la percepción pública de él.
La denuncia argumenta que esta respuesta es “difamatoria” y es una violación al Reglamento General de Protección de Datos (RGPD) de la Unión Europea.
Por su parte, OpenAI reconoció que el caso tiene relación con una versión antigua de ChatGPT. “Seguimos investigando nuevas formas de mejorar la precisión de nuestros modelos y reducir las alucinaciones. Si bien aún estamos revisando esta queja, se relaciona con una versión anterior de ChatGPT, la cual ha sido mejorada con funciones de búsqueda en internet para mejorar la precisión”, aseguró un portavoz de la empresa.
Según los expertos, las “alucinaciones” de los modelos de lenguaje se tratan de la generación de información falsa o inexacta, el cual puede tener graves consecuencias para los usuarios. “El denunciante se sintió profundamente preocupado por estos contenidos, que podrían tener efectos nocivos en su vida privada si se reprodujeran o filtraran de alguna manera en su comunidad o en su ciudad natal”, asegura Noyb en la denuncia.
