Capsule Network Explainability beschäftigt sich mit Methoden, um die internen Repräsentationen und Routing-Mechanismen von Capsule Networks transparent zu machen.
Capsule Networks verwenden Gruppen von Neuronen, sogenannte Kapseln, die nicht nur Merkmalsaktivierungen, sondern auch Pose-Informationen (z.B. Lage, Orientierung) kodieren.
Die Erklärbarkeit umfasst das Visualisieren der Aktivierungen einzelner Kapseln sowie die Analyse des dynamischen Routing-Prozesses, der bestimmt, wie Informationen zwischen Kapseln weitergegeben werden.
Diese Einsichten helfen, das Verhalten des Modells nachzuvollziehen und die Modelle zu verbessern.