La Inteligencia Artificial Explicable (XAI) abarca métodos y técnicas que tienen como objetivo hacer comprensibles los procesos de decisión de modelos complejos de IA.
Muchos modelos modernos de IA, especialmente las redes neuronales profundas, son difíciles de entender, lo que limita su aceptación en áreas críticas.
XAI utiliza diferentes enfoques, como explicaciones visuales, análisis de características o sistemas basados en reglas, para ofrecer perspectivas sobre el funcionamiento de los modelos.
De este modo, los usuarios y desarrolladores pueden comprender qué factores llevaron a una decisión determinada.
La Inteligencia Artificial Explicable es especialmente importante en áreas como la medicina, el derecho o las finanzas, donde la transparencia y la trazabilidad son esenciales.