Capsule Pooling bezeichnet den Prozess, bei dem die Ausgaben von Kapseln in einem Capsule Network aggregiert werden, um eine reduzierte, aber aussagekräftige Repräsentation zu erzeugen, die sowohl Pose- als auch Aktivierungsinformationen berücksichtigt.
Formell lässt sich Capsule Pooling als eine Funktion \( P: \{ \mathbf{v}_i \}_{i=1}^n ightarrow \mathbf{v}_p \) beschreiben, wobei \( \mathbf{v}_i \in \mathbb{R}^d \) die Vektor-Ausgabe der i-ten Kapsel ist und \( \mathbf{v}_p \) die gepoolte Kapsel-Representation.
Die Aggregation kann durch gewichtete Summen erfolgen, z.B.:
\[ \mathbf{v}_p = \sum_{i=1}^n w_i \mathbf{v}_i, \quad ext{mit} \quad w_i = rac{\exp(a_i)}{\sum_{j=1}^n \exp(a_j)} \]
wobei \( a_i \) Aktivierungswerte oder Routing-Koeffizienten sind.
Capsule Pooling unterscheidet sich von klassischen Pooling-Methoden durch den Erhalt von Pose-Informationen und der Berücksichtigung der Kapselstruktur, was zu einer verbesserten Modellinterpretierbarkeit und -leistung führt.
Definition:
„Capsule Pooling ist eine Aggregationsmethode in Capsule Networks, die Kapsel-Ausgaben unter Erhalt ihrer Pose- und Aktivierungsinformationen zusammenführt, um räumliche und hierarchische Merkmale effektiv zu repräsentieren.“
Quelle:
Hinton, G. E., Krizhevsky, A., & Wang, S. D. (2018). Matrix Capsules with EM Routing. Proceedings of the International Conference on Learning Representations (ICLR).