Пулинг капсул обозначает процесс, при котором выходы капсул в Capsule Network агрегируются для создания уменьшенного, но информативного представления, учитывающего как позу, так и информацию об активации.
Формально пулинг капсул можно описать как функцию \( P: \{ \mathbf{v}_i \}_{i=1}^n \rightarrow \mathbf{v}_p \), где \( \mathbf{v}_i \in \mathbb{R}^d \) — векторный выход i-й капсулы, а \( \mathbf{v}_p \) — агрегированное представление капсулы.
Агрегация может осуществляться с помощью взвешенных сумм, например:
\[ \mathbf{v}_p = \sum_{i=1}^n w_i \mathbf{v}_i, \quad ext{с} \quad w_i = rac{\exp(a_i)}{\sum_{j=1}^n \exp(a_j)} \]
где \( a_i \) — значения активации или коэффициенты маршрутизации.
Пулинг капсул отличается от классических методов пулинга сохранением информации о позе и учётом структуры капсул, что приводит к улучшенной интерпретируемости модели и её производительности.
Определение:
«Пулинг капсул — это метод агрегации в Capsule Networks, который объединяет выходы капсул с сохранением их информации о позе и активации для эффективного представления пространственных и иерархических признаков.»
Источник:
Hinton, G. E., Krizhevsky, A., & Wang, S. D. (2018). Matrix Capsules with EM Routing. Proceedings of the International Conference on Learning Representations (ICLR).