Explainable Reinforcement Learning (XRL) se ocupa del desarrollo de técnicas que hacen que la toma de decisiones de los agentes de aprendizaje por refuerzo sea transparente y comprensible.
En el aprendizaje por refuerzo, un agente aprende a seleccionar acciones en su entorno mediante recompensas. XRL complementa este proceso proporcionando información sobre las razones detrás de ciertas decisiones de acción.
Los enfoques típicos incluyen la visualización de funciones de valor, la identificación de características relevantes para las decisiones y la creación de modelos explicativos que abstraen el comportamiento del agente.
Esto hace que los modelos sean más comprensibles y puedan utilizarse mejor en áreas críticas para la seguridad o reguladas.