Объяснимость Capsule Network занимается методами, которые делают внутренние представления и механизмы маршрутизации Capsule Networks прозрачными.
Capsule Networks используют группы нейронов, называемые капсулами, которые кодируют не только активации признаков, но и информацию о позе (например, положение, ориентацию).
Объяснимость включает визуализацию активаций отдельных капсул, а также анализ динамического процесса маршрутизации, который определяет, как информация передается между капсулами.
Эти знания помогают понять поведение модели и улучшить модели.