L'explicabilité des réseaux de capsules désigne l'étude et la représentation des mécanismes internes des réseaux de capsules (CapsNets), en particulier des activations des capsules et du processus de routage dynamique, afin de rendre la prise de décision compréhensible.
Les CapsNets sont composés de capsules qui représentent des vecteurs ou des matrices codant à la fois la probabilité d'une caractéristique et sa pose. La transmission des informations s'effectue via un routage itératif par accord, qui ajuste dynamiquement les connexions pondérées entre les capsules.
Pour l'explicabilité, des méthodes telles que la visualisation des activations, l'analyse des scores de concordance dans le routage et la décomposition des paramètres de pose sont utilisées pour interpréter quelles caractéristiques et relations spatiales le modèle utilise pour la classification.
Définition :
« L'explicabilité des réseaux de capsules est la recherche et l'application de méthodes pour une représentation transparente et une interprétation des représentations internes et des mécanismes de routage dynamique dans les réseaux de capsules, afin de rendre leurs processus de décision compréhensibles. »
Source :
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems, 30.