EE. UU. y Reino Unido se unen para evaluar los riesgos de la IA

Estados Unidos y Reino Unido acordaron desarrollar pruebas para evaluar los modelos de inteligencia artificial. Ambos países firmaron un Memorando de Entendimiento en el que se comprometen a trabajar en conjunto para garantizar la seguridad de la IA. Las pruebas ayudarán a evaluar los riesgos en los modelos más avanzados para abordarlos de manera efectiva.

La alianza, firmada por el Departamento de Comercio de EE. UU. y el Departamento de Ciencia, Innovación y Tecnología de Reino Unido, entrará en vigor hoy mismo. De acuerdo con una publicación de la dependencia estadounidense, ambos países trabajarán en estrecha colaboración para «acelerar e iterar rápidamente conjuntos sólidos de evaluaciones para modelos, sistemas y agentes de IA». El memorando indica que realizarán, al menos, una prueba de seguridad conjunta sobre un modelo accesible al público.

«Esta asociación acelerará el trabajo de nuestros dos institutos en todo el espectro de riesgos, ya sea para nuestra seguridad nacional o para nuestra sociedad en general», mencionó la secretaria de Comercio de EE. UU., Gina Raimondo. «Gracias a nuestra colaboración, nuestros institutos obtendrán una mejor compresión de los sistemas de IA, llevarán a cabo evaluaciones más sólidas y emitirán orientaciones más rigurosas.»

Por su parte, Michelle Donelan, secretaria de Estado de Ciencia, Innovación y Tecnología del Reino Unido, agregó que este acuerdo fortalecerá los compromisos asumidos en la Cumbre de Seguridad de IA del pasado noviembre. «Siempre hemos tenido claro que garantizar el desarrollo seguro de la IA es una cuestión global compartida», dijo.

El Memorando de Entendimiento firmado por Estados Unidos y Reino Unido forma parte de los esfuerzos de ambas naciones por impedir un escenario catastrófico. La Declaración de Bletchley, firmada por 28 gobiernos, establece la creación de planes para medir, monitorear y mitigar capacidades potencialmente dañinas de la IA.

Estados Unidos y Reino Unido buscarán amenazas a la seguridad en los modelos de IA

Uno de los puntos del acuerdo menciona que, a medida que Estados Unidos y Reino Unido fortalezcan su asociación en materia de seguridad de IA, desarrollarán acciones similares con otros países. Ambos gobiernos compartirán información sobre las capacidades y riesgos asociados con los modelos de inteligencia artificial.

Tras la firma de la Declaración de Bletchley, Reino Unido estableció el Instituto de Seguridad de IA para llevar a cabo evaluaciones. Aunque las grandes tecnológicas acordaron que se auditaran sus modelos, criticaron la falta de claridad de las pruebas y el tiempo que demorarán.

Un reporte del Financial Times añade que algunas empresas no retrasarán o cambiarán sus modelos de IA basándose en los hallazgos del instituto. Ante ello, Ian Hogarth, jefe de esta oficina, dijo que las tecnológicas acordaron que se efectuarían las pruebas pertinentes. «Compartiremos los hallazgos con los desarrolladores según corresponda. Sin embargo, cuando se encuentren riesgos, esperaríamos que tomasen cualquier medida relevante antes del lanzamiento», mencionó.

La asociación entre Reino Unido y Estados Unidos llega a pocos días de la aprobación de la Ley de Inteligencia Artificial en la Unión Europea. La Ley de IA es el primer marco jurídico para garantizar que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos. Europa ha definido cuatro niveles de riesgo y establece que todos los sistemas de IA considerados como amenaza para la seguridad serán prohibidos.