Unesco urge regulación de la IA y advierte sobre los riegos de su uso en las escuelas

La Unesco hizo un llamado urgente a los gobiernos para que regulen de manera efectiva el uso de la inteligencia artificial (IA) en las escuelas, con el objetivo de garantizar su aplicación ética y orientada hacia el bienestar humano en el ámbito de la educación e investigación. 

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) emitió orientaciones globales que establecen una edad mínima de 13 años para que los estudiantes puedan hacer uso de estas herramientas en el entorno escolar. Además, enfatizó la importancia de proporcionar una formación a los docentes en esta área y de establecer normativas a nivel mundial, regional o nacional para la protección de datos y privacidad. 

Uno de los aspectos que más preocupa del informe de la Unesco es el impacto de la IA generativa en la ampliación de las brechas digitales de datos, pues se señala que "los modelos actuales de ChatGPT se entrenan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global". 

Esta no es la primera vez que la Unesco advierte sobre la rápida proliferación de a IA generativa en las escuelas, pues durante junio, la organización ya había expresado su inquietud por la falta de escrutinio, controles y regulaciones en torno a su uso. 

La IA generativa tiene la capacidad de crear contenido textual, imágenes, videos, música y código de programación informática, planteando implicaciones significativas en el ámbito educativo y de investigación. Sin embargo, una encuesta mundial llevada a cabo por la Unesco en más de 450 escuelas y universidades reveló que menos del 10 % de ellas contaba con normativas para el uso de estas herramientas, principalmente debido a la ausencia de regulaciones a nivel nacional. 

Audrey Azoulay, directora general de la Unesco, subrayó que si bien la IA generativa presenta una oportunidad considerable para el desarrollo humano, también trae consigo riesgos potenciales. En este sentido, enfatizó que su integración en la educación debe ir acompañada de un compromiso público y de las regulaciones necesarias por parte de los gobiernos.