La explicabilidad de Capsule Network se refiere al estudio y la representación de los mecanismos internos de las Capsule Networks (CapsNets), en particular las activaciones de las cápsulas y el proceso de enrutamiento dinámico, para hacer comprensible la toma de decisiones.
Las CapsNets están formadas por cápsulas que representan vectores o matrices, que codifican tanto la probabilidad de una característica como su pose. La transmisión de información se realiza mediante un enrutamiento iterativo por acuerdo, que ajusta dinámicamente las conexiones ponderadas entre cápsulas.
Para la explicabilidad se utilizan métodos como la visualización de activaciones, el análisis de las puntuaciones de coincidencia en el enrutamiento y la descomposición de los parámetros de pose, para interpretar qué características y relaciones espaciales utiliza el modelo para la clasificación.
Definición:
«La explicabilidad de Capsule Network es la investigación y aplicación de métodos para la representación transparente e interpretación de las representaciones internas y los mecanismos de enrutamiento dinámico en Capsule Networks, para hacer comprensibles sus procesos de toma de decisiones.»
Fuente:
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems, 30.