Para nadie es un secreto la gran relevancia que está cobrando la inteligencia artificial en la actualidad. A medida que los sistemas de IA se vuelven cada vez más complejos, entender cómo toman decisiones se vuelve esencial. En ese sentido, cobra protagonismo la llamada Inteligencia Artificial Explicable (IAeX), que busca hacer transparente el proceso de toma de decisiones de los algoritmos, permitiendo que los usuarios comprendan y confíen en los resultados obtenidos.
La Universidad de Salamanca no puede quedarse a un lado en este importante propósito. Por eso, ya está en marcha el proyecto LUCERNA, iniciativa impulsada por Luce Innovative Technologies y el AIR Institute, que se enfoca en la Investigación en metodologías de IAeX, así como en técnicas post-hoc de ajuste de modelos, sustitutos interpretables y generación de explicaciones de modelos. Por lo tanto, LUCERNA no solo busca entender la IA, sino también hacerla transparente y comprensible.
La inteligencia artificial es para muchos un enigma, un conjunto de algoritmos que operan en las sombras. LUCERNA se propone desentrañar este enigma, llevando la IA al dominio de la comprensión humana.
En concreto, la investigación se centra en dos áreas cruciales. Por un lado, LUCERNA no solo busca crear modelos avanzados, sino también desplegarlos de manera que su funcionamiento sea comprensible para todos., gracias a la IAeX. Este enfoque no solo es relevante para expertos en datos, sino que también empodera a aquellos que pueden no tener un conocimiento profundo de la IA.
Por otra parte, las técnicas post-hoc de ajuste de modelos y sustitutos interpretables permiten modificar los modelos de IA existentes para hacerlos más comprensibles sin sacrificar su rendimiento. Esto asegura que la interpretación de los resultados no sea una barrera para la adopción y aplicación efectiva de la IA.
Sin duda, el proyecto LUCERNA es una puerta abierta a un futuro donde la inteligencia artificial sea poderosa y también comprensible, un aspecto clave para desbloquear el beneficioso potencial de la inteligencia artificial en la sociedad.
