Explainable AI (XAI) bezeichnet eine Sammlung von Methoden, die darauf abzielen, die innere Funktionsweise und Entscheidungsfindung von KI-Modellen interpretierbar und nachvollziehbar zu machen.
Im Gegensatz zu klassischen Blackbox-Modellen ermöglicht XAI die Offenlegung von Einflussfaktoren, Entscheidungsregeln oder Wahrscheinlichkeiten, die zu einer Vorhersage führen.
Zu den gängigen Techniken zählen LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations) und salienzbasierte Visualisierungen.
Explainable AI ist ein entscheidendes Forschungsfeld, um Vertrauen, Fairness und Verantwortung in KI-Systemen sicherzustellen.
Definition:
Explainable AI bezeichnet Methoden und Techniken, die darauf abzielen, die Entscheidungen von KI-Modellen transparent, nachvollziehbar und interpretierbar für Menschen zu machen.
Quelle:
Adadi, A., & Berrada, M. (2018). "Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)." IEEE Access, 6, 52138-52160.