Programas automatizados con Inteligencia Artificial podrían caer en prácticas de discriminación.
http://noticias.imer.mx/wp-content/uploads/2024/06/INPE-19062023-ENT-XIMENA-GUITIERREZ-VAZQUEZ.mp3
Escucha la entrevista con Jimena Gutiérrez Vázquez, investigadora en el Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades de la UNAM.
- CHECALO -
IMER Noticias
Entender cómo funciona la Inteligencia Artificial, ayuda a acercarse a ellas con cautela para sacarles provecho en la facilitación de tareas, pero “sin reemplazarnos”, destacó Jimena Gutiérrez Vázquez, Investigadora en el Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades de la UNAM.
En entrevista con Alberto Nájar en la Primera Emisión de IMER Noticias, la especialista destacó la importancia de contar con medidas de seguridad ante su uso cada vez más frecuente.
“Uno de los riesgos es que hoy en día cada vez más estamos adoptando tecnologías que se conocen como generativas, todas estas cuestiones que hoy en día nos asisten, muy famosa ChatGPT, hay otras y estas tecnologías tienen la capacidad de generar texto, de generar imágenes, de generar audio o video. Y puesto que su uso es realmente muy amplificado, se está amplificando cada vez más, ahí es importante tener varios lineamientos en torno a la seguridad de estas herramientas”.
¿Cómo distinguir un programa de IA?
“Hoy en día Inteligencia Artificial es un término que tiene muchísimos años, pero hoy día todos lo estamos mencionando porque por primera vez ya es parte de nuestra realidad, usamos muchas tecnologías cada vez más.
“La forma en la que la podríamos distinguir es que las tecnologías inteligentes son aquellas que se basan en la experiencia, es decir, son aquellas que aprenden a partir de muchos ejemplos y muchos datos”.
“Algo es inteligente cuando el programa o la computadora aprendió, digamos, por sí misma a resolver una tarea a partir de muchísimos datos”, tal es el caso del ChatGPT.
En este sentido, Gutiérrez Vázquez mencionó que uno de los riesgos importantes que se está vislumbra con la IA es que tiene la capacidad de reproducir o amplificar ciertos sesgos sociodemográficos, como los raciales, de género, etc.
¿Se ha planteado que el uso de estas tecnologías de Inteligencia Artificial para, por ejemplo, hacer la revisión de los solicitantes de crédito en alguna institución, implicaría una eventual discriminación por la ejecución de dichos sesgos?
“Ese tipo de fenómenos se detectaron hace años porque muchos de estos son modelos estadísticos y probabilísticos. Entonces, si tú lo que tienes es un histórico, una base de datos de 15 años donde se le ha dado preferencia a darle un crédito a cierta persona, con cierto género o ciertas cualidades, es muy probable que los sistemas que se entrenan con esos datos aprendan a hacer lo mismo.
“El crédito es un buen ejemplo, hay otro de contratación, por ejemplo, otorgar o no otorgar una visa, cuando esto se automatiza con estos modelos si tienden a reproducir lo que vieron por años”.
¿Estos sistemas puede desaprender o cambiar la forma de operar?
“Si, de hecho, hoy en día dentro de las áreas de procesamiento de lenguaje natural, Inteligencia Artificial, es una de las líneas de investigación más prominente… Ahora se volvió una línea súper importante modificar estos patrones, a esto se le llama, a veces, la alineación de modelos de lenguaje”.
Finalmente, la investigadora de la UNAM recomendó utilizar esta tecnología como un asistente para facilitar tareas, pero destacó que hay que empezar a “desmitificarlas”, pues a veces “tendemos a conceder capacidades muy humanas, como si hubiera un humano del otro lado contestándome y hay que acordarnos que hoy por hoy siguen basándose en métodos de aprendizaje de datos…No es un cerebro humano el que está del otro lado, hay que tomarlos con esa precaución”.
TE RECOMENDAMOS
Parlamento Europeo aprueba la primera Ley de Inteligencia Artificial del mundo
DERECHOS DE AUTOR
Esta información pertenece a su autor original y fue recopilada del sitio
https://noticias.imer.mx/blog/hay-que-entender-la-ia-para-no-ser-reemplazados-especialista/
