António Guterres, secretario general de la Organización de las Naciones Unidas (ONU), propuso un pacto mundial para gestionar las tecnologías digitales. En la propuesta se incluyó el rápido avance, la inteligencia artificial (IA), la cual puede traer amenazas difíciles de controlar, de acuerdo con el organismo.
En 2021, el secretario general puso sobre la mesa la idea de realizar un Pacto Digital Mundial para regular la IA. En el nuevo documento aborda ideas sobre cómo hacerlo, se espera que gobiernos, sector privado y sociedad civil puedan adoptar el acuerdo durante la Cumbre del Futuro en septiembre de 2024.
Guterres propone diversos puntos en el Pacto Digital; sin embargo, uno de los ejes más importantes es el de la IA, especialmente después de los rápidos avances observados en los últimos meses. Según el diplomático, es necesario unirse para considerar los problemas y colaborar en la identificación de riesgos para mitigarlos de forma ágil.
Durante su discurso, destacó que recientemente se superó un umbral digital con el uso generalizado de AI generativa en la forma de ChatGPT. Explicó que si bien, tendrá un impacto, todavía no está claro si tendrá un impacto bueno, en ese sentido, señaló cómo los mismos desarrolladores han expresado preocupación sobre esta tecnología.
Incluso aquellos que han desarrollado IA y que se beneficiarían más de ella han expresado una profunda preocupación y pedido, incluso suplicado, acciones para su gobernanza", comentó el portugués.
El secretario general mencionó que es necesario asegurar un diseño y uso de la inteligencia artificial transparente, seguro y bajo un control humano para pedir cuentas. En ese sentido, la organización solicita cambiar guías y normas internacionales, marcos regulatorios locales y estándares técnicos para facilitar una gestión "ágil" de la IA.
La ONU propone una receta que busca la cooperación entre autoridades y la industria, dejando a un lado las leyes y regulaciones. Entre las acciones que planeta está la puesta en marcha urgente de un trabajo de investigación junto a las empresas para asegurar sistemas de IA seguros, los cuales estén alineados con valores humanos. También se propone el establecimiento de un grupo asesor conformado por expertos para abordar, regularmente, estas cuestiones.
Además, solicita a los gobiernos pactar con la industria directrices para guiar el desarrollo de la inteligencia artificial o llegar a compromisos para reforzar la transparencia. Incluso, hizo un llamado para incluir equipos de derechos humanos y ética en el trabajo del desarrollo de la IA.
Finalmente, Guterres instó a considerar prohibiciones al uso de aplicaciones de tecnología que su potencial no pueda justificarse bajo los derechos humanos, sin embargo, no especificó a cuáles. Desde hace varios años, el secretario ha advertido el riesgo de plantear las armas autónomas, sistemas militares guiados por inteligencia artificial que toman sus propias decisiones al momento de lanzar un ataque. (Notipress)
.gif)