Объяснимое обучение с подкреплением (XRL) занимается разработкой методов, которые делают процесс принятия решений агентами обучения с подкреплением прозрачным и понятным.
В обучении с подкреплением агент учится выбирать действия в своей среде на основе вознаграждений. XRL дополняет этот процесс, предоставляя понимание причин выбора тех или иных действий.
Типичные подходы включают визуализацию функций ценности, идентификацию релевантных признаков для принятия решений и создание объяснительных моделей, которые абстрагируют поведение агента.
Это делает модели более понятными и позволяет лучше использовать их в критически важных с точки зрения безопасности или регулируемых областях.