Explainable Reinforcement Learning (XRL) bezeichnet eine Forschungsrichtung, die darauf abzielt, die Entscheidungsprozesse von Reinforcement Learning (RL) Agenten interpretierbar und nachvollziehbar zu machen.
Formal betrachtet wird ein RL-Agent definiert durch ein Markov Decision Process (MDP) \( M = (S, A, P, R, \gamma) \) mit Zustandsraum \( S \), Aktionsraum \( A \), Übergangswahrscheinlichkeiten \( P \), Belohnungsfunktion \( R \) und Diskontfaktor \( \gamma \). Ziel ist es, eine Politik \( \pi: S \rightarrow A \) zu lernen, die den erwarteten kumulierten Ertrag maximiert.
XRL-Methoden versuchen, Erklärungen \( E \) zu generieren, die Einsichten in die Struktur, Werte oder Entscheidungen der Politik \( \pi \) geben. Beispiele sind Feature-Attributionen, salienzbasierte Visualisierungen, symbolische Erklärungen oder Modellkompression in verständlichere Formen.
Solche Erklärungen sind essenziell für die Akzeptanz und Sicherheit von RL-Systemen in Bereichen wie autonomes Fahren, Robotik oder Gesundheitswesen.
Definition:
„Explainable Reinforcement Learning ist ein Teilgebiet des maschinellen Lernens, das darauf abzielt, die Entscheidungen von RL-Agenten durch transparente und nachvollziehbare Erklärungen verständlich zu machen, um Vertrauen und Kontrolle zu erhöhen.“
Quelle:
Madumal, P., Miller, T., Sonenberg, L., & Vetere, F. (2020). Explainable Reinforcement Learning Through a Causal Lens. Proceedings of the 29th International Joint Conference on Artificial Intelligence (IJCAI).