La Unesco y grandes empresas de tecnología firman acuerdo para el empleo ético de la IA

Reyes Martínez Torrijos

Periódico La Jornada

Martes 6 de febrero de 2024, p. 6

Con la finalidad de lograr una inteligencia artificial (IA) más ética y prevenir graves riesgos asociados a ella, ocho grandes empresas de tecnología firmaron ayer un acuerdo pionero con la Organización de Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), difundió ese organismo multilateral.

En el segundo punto del acuerdo, las empresas admitieron las enormes oportunidades de la inteligencia artificial, en particular en la promoción de los Objetivos de Desarrollo Sostenible de Naciones Unidas. Pero, al mismo tiempo, somos conscientes del grave riesgo de daño asociado a estas tecnologías cuando se desarrollan y liberan sin las salvaguardas adecuadas.

Peligros

Entre estos riesgos se hallan la ampliación de las desigualdades; la generación y propagación de la desinformación, la incitación al odio y la violencia a gran escala; el riesgo de discriminación generalizada basada en el género, la raza, el origen étnico y otros motivos, además de la facilitación de los ciberataques y el fraude.

Otras amenazas son: las violaciones de la intimidad; la alteración de los mecanismos existentes para la protección de los derechos de propiedad intelectual, incluidos los derechos de autor y la erosión de las normas democráticas que tanto ha costado conseguir, incluidos los derechos humanos y las libertades fundamentales.

En el contexto del segundo foro mundial sobre IA, en Kranj, Eslovenia, las empresas mundiales GSMA, INNIT, Grupo Lenovo, LG AI Research, Mastercard, Microsoft, Salesforce y Telefónica se comprometieron a seguir una recomendación de la Unesco sobre la ética de la inteligencia artificial, según un comunicado.

Audrey Azoulay, directora general de la Unesco, recordó que en noviembre de 2021 los estados integrantes de este organismo adoptaron el primer marco ético en el orbe para el uso de la IA y destacó el otro gran paso con el mismo compromiso concreto de las principales empresas tecnológicas mundiales.

Extendió el llamado a todas las partes interesadas del sector con el fin de que sigan su ejemplo. Una alianza entre las esferas pública y privada es esencial si queremos desarrollar la inteligencia artificial para el bien común.

En el documento se detalla que las empresas se comprometen a asumir plenamente su papel a la hora de garantizar la protección de los derechos humanos durante el diseño, desarrollo, compra, venta y uso de la IA. Es la primera vez que un grupo de empresas se compromete ante Naciones Unidas en este ámbito.

Importante, hacer pruebas antes de comercializar

Según el acuerdo, se deberán determinar procedimientos para garantizar que se cumplan las normas de seguridad, que pueden identificarse los efectos nocivos de la IA y adoptarse medidas para prevenir, limitar o corregir los riesgos. También destaca la importancia de realizar pruebas antes de comercializar un nuevo sistema de esa tecnología y el desarrollo de evaluaciones y mitigación de los peligros tras la implantación.

La recomendación del organismo de Naciones Unidas, Ética de la inteligencia artificial, sigue siendo el único marco normativo mundial en torno al tema. En la actualidad más de 50 países participan activamente en la aplicación de este instrumento.