Estos empleados y exempleados de Google y OpenAI exponen los riesgos de que una IA avanzada pudiera extinguir a la humanidad.
Fabián Vega
Empleados actuales y anteriores de OpenAI y Google DeepMind lanzaron una carta abierta para advertir a las personas sobre el riesgo de extinción que representa para la humanidad la creación de una inteligencia artificial (IA) avanzada.
- CHECALO -
“Somos empleados actuales y anteriores de empresas de IA de vanguardia, y creemos en el potencial de la tecnología de IA para ofrecer beneficios sin precedentes a la humanidad. También entendemos los graves riesgos que plantean estas tecnologías. Estos riesgos van desde el afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA (…)”.
Aún con acuerdos de confidencialidad que les impiden expresar sus mayores temores, 13 empleados y exempleados denunciaron a las empresas de tener en su poder información sobre medidas de protección, niveles de riesgo y los daños a los que se vería expuesta la humanidad ante la IA.
Ante los potenciales riesgos, el grupo también alertó la falta de inclusión de la sociedad civil para poder advertir a tiempo sobre un tema que: “podría provocar la extinción humana”.
Te podría interesar: ¡Cuidado! La inteligencia artificial es usada con fines delictivos: esto es el phishing.
“Las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva, y no creemos que las estructuras de gobierno corporativo a medida sean suficientes para cambiar esto”.
Por lo que no consideran suficientes las obligaciones compartidas con gobiernos. Y mucho menos las responsabilidades que podrían tener las empresas ante cualquier daño a un ser humano.
¿Qué le piden a Google Deepmind y OpenIA?
Frente a protecciones insuficientes, ya que se ciñen solo a actividades ilegales donde se use IA y riesgos sin regular todavía, este grupo pide 4 cosas:
No represalias por las críticas que se hagan contra la seguridad de las empresas.
Las empresas de IA darán un proceso de anonimato verificable para cualquier inquietud de sus empleados ante la junta directiva y organismos reguladores de las compañías.
Que las empresas apoyen la crítica abierta. Incluso ante una organización independiente con experiencia en el tema.
Que las empresas no tomen represalias contra cualquier trabajador vigente o anterior ante la divulgación de información confidencial relacionada con el riesgo de sus servicios o productos de IA.
A Right to Warn about Advanced Artificial Intelligence (un derecho a advertir sobre la inteligencia artificial avanzada), es el texto donde estas 13 personas han firmado bajo su nombre o en el más absoluto anonimato sus exigencias a Google Deepmind y OpenAI:
-
Jacob Hilton – OpenAI
Daniel Kokotajlo – OpenAI
Ramana Kumar – Google DeepMind
Neel Nanda – Google DeepMind y Anthropic
William Saunders – OpenAI
Carroll Wainwright – OpenAI
Daniel Ziegler – OpenAI
Anónimo – OpenAI
Anónimo – OpenAI
Anónimo – OpenAI
Anónimo – OpenAI
Anónimo – OpenAI
Anónimo – OpenAI
La carta también está firmada por Geoffrey Hinton, considerado el “padrino de la inteligencia artificial” por su trabajo en Google hasta su renuncia en 2023. Cuando decidió hablar abiertamente sobre sus inquietudes acerca del desarrollo de la IA: “No deberían avanzar más hasta que sepan si pueden controlarlo”, dijo.
DERECHOS DE AUTOR
Esta información pertenece a su autor original y fue recopilada del sitio
https://noticias.imer.mx/blog/exempleados-de-google-y-openai-advierten-riesgos-de-la-ia/
