La explicabilidad de Capsule Network se ocupa de métodos para hacer transparentes las representaciones internas y los mecanismos de enrutamiento de las Capsule Networks.
Las Capsule Networks utilizan grupos de neuronas, llamadas cápsulas, que codifican no solo activaciones de características, sino también información de pose (p. ej., posición, orientación).
La explicabilidad incluye la visualización de las activaciones de cápsulas individuales así como el análisis del proceso de enrutamiento dinámico, que determina cómo se transmiten las informaciones entre cápsulas.
Estos conocimientos ayudan a comprender el comportamiento del modelo y a mejorar los modelos.