Capsule Network Routing ist ein Mechanismus in Capsule Networks, der die gewichtete Weiterleitung von Kapselausgaben an die Kapseln der nächsten Schicht steuert, um eine hierarchische Merkmalsaggregation zu ermöglichen.
Formal beschreibt dynamisches Routing eine iterative Optimierung der Routing-Koeffizienten \( c_{ij} \), die bestimmen, wie stark der Ausgang der Kapsel \( i \) an die Kapsel \( j \) weitergegeben wird.
Die Routing-Koeffizienten werden anhand der Übereinstimmung zwischen der Vorhersage \( \hat{\mathbf{u}}_{j|i} = \mathbf{W}_{ij} \mathbf{u}_i \) und der Ausgabe \( \mathbf{v}_j \) der Zielkapsel iterativ angepasst, typischerweise mit einem Softmax über die \( c_{ij} \) und einer nichtlinearen Squashing-Funktion zur Normalisierung.
Dieses Verfahren ermöglicht es, Pose- und Aktivierungsinformationen von Teilen zu Objekten hierarchisch zu bündeln und ist entscheidend für die Fähigkeit von Capsule Networks, räumliche Beziehungen besser zu erfassen als klassische neuronale Netze.
Definition:
„Capsule Network Routing ist ein iterativer Mechanismus zur gewichteten Weiterleitung von Kapselausgaben zwischen Schichten, der die hierarchische Aggregation neuronaler Merkmale durch Anpassung der Routing-Koeffizienten ermöglicht.“
Quelle:
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).