La Inteligencia Artificial Explicable (XAI) se refiere a un conjunto de métodos que tienen como objetivo hacer que el funcionamiento interno y la toma de decisiones de los modelos de IA sean interpretables y comprensibles.
A diferencia de los modelos clásicos de caja negra, XAI permite la divulgación de factores influyentes, reglas de decisión o probabilidades que conducen a una predicción.
Entre las técnicas comunes se encuentran LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations) y visualizaciones basadas en la saliencia.
La Inteligencia Artificial Explicable es un campo de investigación crucial para garantizar la confianza, la equidad y la responsabilidad en los sistemas de IA.
Definición:
La Inteligencia Artificial Explicable se refiere a métodos y técnicas que tienen como objetivo hacer que las decisiones de los modelos de IA sean transparentes, comprensibles e interpretables para las personas.
Fuente:
Adadi, A., & Berrada, M. (2018). "Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)." IEEE Access, 6, 52138-52160.