L'intelligence artificielle explicable (XAI) désigne un ensemble de méthodes visant à rendre le fonctionnement interne et la prise de décision des modèles d'IA interprétables et compréhensibles.
Contrairement aux modèles classiques en boîte noire, la XAI permet de révéler les facteurs d'influence, les règles de décision ou les probabilités qui conduisent à une prédiction.
Parmi les techniques courantes figurent LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations) et les visualisations basées sur la saillance.
L'intelligence artificielle explicable est un domaine de recherche crucial pour garantir la confiance, l'équité et la responsabilité dans les systèmes d'IA.
Définition :
L'intelligence artificielle explicable désigne des méthodes et techniques visant à rendre les décisions des modèles d'IA transparentes, compréhensibles et interprétables pour les humains.
Source :
Adadi, A., & Berrada, M. (2018). "Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)." IEEE Access, 6, 52138-52160.