Explainable Reinforcement Learning (XRL) beschäftigt sich mit der Entwicklung von Techniken, die die Entscheidungsfindung von Verstärkungslernagenten transparent und nachvollziehbar machen.
Im Reinforcement Learning lernt ein Agent durch Belohnungen, Aktionen in seiner Umgebung auszuwählen. XRL ergänzt diesen Prozess, indem es Einblicke in die Gründe für bestimmte Aktionsentscheidungen liefert.
Typische Ansätze umfassen die Visualisierung von Wertfunktionen, die Identifikation relevanter Merkmale für Entscheidungen und das Erzeugen von Erklärungsmodellen, die das Verhalten des Agenten abstrahieren.
Dadurch werden Modelle verständlicher und können in sicherheitskritischen oder regulierten Bereichen besser eingesetzt werden.