La Jornada: A la inteligencia artificial aún le falta explicar las causas de lo que ocurre: Enrique Sucar

Eirinet Gómez

Periódico La Jornada
Martes 27 de febrero de 2024, p. 6

La inteligencia artificial (IA) ha logrado grandes avances que tienen sorprendida a gran parte de la sociedad, pero desde el ámbito científico, personas como Enrique Sucar Succar, investigador del Instituto Nacional de Astrofísica, Óptica y Electrónica (Inaoe), se alejan de esa fascinación y ponen el foco en el conocimiento causal.

En la conferencia ¿Por qué? Cómo aprender y aplicar el conocimiento causal en la inteligencia artificial, parte del ciclo Mitos y realidades de la inteligencia artificial, que se desarrolla en el contexto de la Feria del Libro del Palacio de Minería, Sucar Succar habló a un público integrado por adolescentes, jóvenes y adultos, de carreras desde el área de ciencias exactas hasta de filosofía.

El investigador señaló que los logros de la IA han generado cambios significativos en rubros como el comercio, en el que Amazon acapara las ventas en línea; el transporte, sector en el que una vez que se masifique el uso de lo carros autónomos, se modificará la forma de viajar en el mundo, y en materia de finanzas podrían incluso llegar a desaparecer los bancos centrales.

En el área de la salud hay modelos que tiran hacia una medicina preventiva y personalizada; en educación, cada vez hay más usuarios de plataformas en línea, y en lo que se refiere a las noticias, ya comienzan a darse por agentes virtuales.

Es realmente expectante lo que se está logrando con la inteligencia artificial, pero a pesar de esto hay todavía muchas limitaciones.

Sucar Succar, quien tiene un invento denominado Gesture Therapy, videojuego desarrollado por mexicanos, el cual ayuda a recobrar la movilidad de las extremidades superiores, explicó que los sistemas actuales pueden caer en errores, o están limitados a dar explicaciones.

Hay sistemas, por ejemplo, que pueden ayudar a diagnosticar si una persona tiene un tumor canceroso o no, pero quisiéramos que nos dijera por qué. Hay ámbitos como el de la medicina en el que es muy importante que el sistema no sólo dé un diagnóstico, sino que lo explique.

Esquema de correlaciones

El investigador agregó que gran parte de la inteligencia artificial, que ha modificado nuestro entorno actual, está basado en un esquema de correlaciones o de uso de grandes bases de datos e información. Por ejemplo, ChatGPT, que funciona a partir de buscar en bases de datos el concepto más cercano a la pregunta de un usuario.

Sin embargo, no incluyen el conocimiento causal, que tiene que ver con el porqué ocurren las cosas y dar explicaciones. Añadió que esto tiene un alto grado de complejidad.

Esto de la causalidad es algo relativamente nuevo, que todavía no tienen mucho de los sistemas de IA actuales. Pero es muy importante porque es ir más allá de tener sólo correlaciones, es tener un conocimiento más profundo de causas y efectos.

El investigador sostuvo que los humanos desarrollan este conocimiento durante la infancia, interactuando con el mundo; se adquiere, por ejemplo, cuando un niño pone la mano al fuego y aprende que está ante un elemento que lo quema, que le causa dolor.

Eso ha llevado a pensar en diseñar robots que aprendan haciendo cosas en el mundo, ir más allá de nada más tener datos en las compu-tadoras, se trata de algo que tenga cuerpo que interactúe en el mundo, puntualizó el científico.

Destacó que lograr que la IA incluya el conocimiento causal puede potenciar áreas como la salud, en la que se lograría que un sistema no sólo detecte el cáncer, sino que explique el porqué. En el rubro de la mercadotecnia, permitiría probar estrategias en un modelo causal, ahorrando experimentos, y en el área de políticas públicas éstas se pueden evaluar.

Sucar Succar, quien recibió el Premio Biblos al Mérito 2023 en el área científica, que se entrega a las personas con una trayectoria excepcional en el área de la ciencia, la cultura o las humanidades, advirtió que a pesar de los grandes avances, todavía los sistemas inteligentes tienen grandes limitaciones, y algo que puede llevar a tener sistemas mejores es tener modelos causales, que nos permitan razonar sobre intervenciones actuales, y tener sistemas inteligentes más robustos y explicables.