Le routage des réseaux de capsules est un mécanisme dans les réseaux de capsules qui contrôle la transmission pondérée des sorties des capsules vers les capsules de la couche suivante afin de permettre une agrégation hiérarchique des caractéristiques.
Formellement, le routage dynamique décrit une optimisation itérative des coefficients de routage \( c_{ij} \), qui déterminent dans quelle mesure la sortie de la capsule \( i \) est transmise à la capsule \( j \).
Les coefficients de routage sont ajustés de manière itérative en fonction de la correspondance entre la prédiction \( \hat{\mathbf{u}}_{j|i} = \mathbf{W}_{ij} \mathbf{u}_i \) et la sortie \( \mathbf{v}_j \) de la capsule cible, typiquement avec un softmax sur les \( c_{ij} \) et une fonction de squash non linéaire pour la normalisation.
Cette procédure permet de regrouper hiérarchiquement les informations de pose et d’activation des parties vers les objets et est essentielle pour la capacité des réseaux de capsules à mieux capturer les relations spatiales que les réseaux neuronaux classiques.
Définition :
« Le routage des réseaux de capsules est un mécanisme itératif de transmission pondérée des sorties des capsules entre les couches, qui permet l’agrégation hiérarchique des caractéristiques neuronales par l’ajustement des coefficients de routage. »
Source :
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).