La ONU crea el primer organismo mundial para la inteligencia artificial

La ONU anunció la creación de un organismo asesor global en torno a la gobernanza de la inteligencia artificial. Su secretario general, António Guterres, explicó que está conformado por 39 miembros de todo el mundo. El grupo evaluará los riesgos que plantea esta tecnología y formulará propuestas sobre cómo la cooperación internacional puede ayudar a enfrentar esos desafíos.

«Sin entrar en una serie de escenarios apocalípticos, ya está claro que el uso malicioso de la inteligencia artificial podría socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia misma», dijo Guterres en una conferencia de prensa este jueves. Señaló que el equipo promoverá una «conversación global multidisciplinaria», que incluirá a varias partes interesadas.

Sus integrantes fueron seleccionados por la oficina del Enviado del Secretario General de la ONU para Tecnología, con aportes de otras organizaciones como la Unesco. El organismo está dirigido por dos copresidentes: Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial de España; y James Manyika, vicepresidente senior de Google-Alphabet.

En la lista del directorio también están Natasha Crampton, directora responsable de inteligencia artificial en Microsoft, y Mira Murati, directora de tecnología de OpenAI. Se sumaron funcionarios de los gobiernos de México, Rusia, Kenia, Brasil y Alemania, entre otros. Y un grupo importante de académicos de distintas instituciones, como la Universidad de Tokio y la Universidad de Stanford.

¿Para qué sirve el nuevo organismo de la ONU para la inteligencia artificial?

El organismo asesor de la ONU está muy lejos de lo que alguna vez propuso el CEO de OpenAI, Sam Altman. El líder de la empresa que creó ChatGPT dijo en mayo que era necesaria la creación de una organización parecida a la Agencia Internacional de Energía Atómica (OIEA).

Altman comentó que un organismo de este tipo podría, por ejemplo, otorgar licencias a los sistemas de inteligencia artificial más poderosos o retirarlas si estos no garantizan el cumplimiento de estándares de seguridad. «Si esta tecnología sale mal, puede salir bastante mal», advirtió entonces.

El propio Guterres también se mostró a favor de un ente regulador de alcance internacional. Pero aclaró en su momento que solo los Estados miembros podrían crear algo así, no su secretaría.

El organismo consultivo de la ONU se ha planteado revisar periódicamente los acuerdos de gobernanza de inteligencia artificial y ofrecer recomendaciones en este sentido. A finales de 2023, publicará un primer informe provisional. El reporte definitivo se publicará antes del 31 de agosto de 2024. El documento podría ofrecer «recomendaciones detalladas sobre las funciones, la forma y los plazos de una nueva agencia internacional para la gobernanza de la inteligencia artificial», de acuerdo con un documento difundido por la ONU anteriormente.

Otras iniciativas en marcha

Guterres advirtió que el conocimiento sobre inteligencia artificial hoy se concentra solo en un puñado de empresas y países. Esto, dijo, podría «profundizar las desigualdades globales y convertir las brechas digitales en abismos».

Los daños potenciales que podrían desencadenarse incluyen la difusión acelerada de información errónea y desinformación, además del afianzamiento de prejuicios y discriminación, destacó su oficina en una nota de prensa. Otro de los riesgos señalados tienen que ver con la vigilancia y la invasión de la privacidad, el fraude y otras violaciones de los derechos humanos.

Además del nuevo organismo de la ONU, están en marcha otras dos grandes iniciativas internacionales sobre la inteligencia artificial. La primera está liderada por Reino Unido, que organizó la próxima Cumbre de Seguridad de Inteligencia Artificial, a celebrarse en noviembre con mandatarios de todo el mundo. Y la segunda, corre por cuenta de los países del G7, que acordó en septiembre el diseño de un código de conducta no vinculante. Se espera que una primera propuesta sea presentada antes de fin de año.