L'Intelligence Artificielle Explicable (XAI) comprend des méthodes et des techniques visant à rendre compréhensibles les processus décisionnels des modèles d'IA complexes.
De nombreux modèles d'IA modernes, en particulier les réseaux neuronaux profonds, sont difficiles à comprendre, ce qui limite leur acceptation dans des domaines critiques.
La XAI utilise différentes approches, telles que les explications visuelles, l'analyse des caractéristiques ou les systèmes basés sur des règles, pour donner un aperçu du fonctionnement des modèles.
Cela permet aux utilisateurs et aux développeurs de comprendre quels facteurs ont conduit à une décision particulière.
L'Intelligence Artificielle Explicable est particulièrement importante dans des domaines comme la médecine, le droit ou la finance, où la transparence et la traçabilité sont essentielles.