Маршрутизация в капсульных сетях — это механизм в капсульных сетях, который управляет взвешенной передачей выходных данных капсул к капсулам следующего слоя для обеспечения иерархической агрегации признаков.
Формально динамическая маршрутизация описывает итеративную оптимизацию коэффициентов маршрутизации \( c_{ij} \), которые определяют, насколько сильно выход капсулы \( i \) передаётся капсуле \( j \).
Коэффициенты маршрутизации итеративно корректируются на основе совпадения между предсказанием \( \hat{\mathbf{u}}_{j|i} = \mathbf{W}_{ij} \mathbf{u}_i \) и выходом \( \mathbf{v}_j \) целевой капсулы, обычно с помощью softmax по \( c_{ij} \) и нелинейной функции сжатия для нормализации.
Этот процесс позволяет иерархически объединять информацию о позе и активации частей в объекты и является ключевым для способности капсульных сетей лучше улавливать пространственные отношения по сравнению с классическими нейронными сетями.
Определение:
«Маршрутизация в капсульных сетях — это итеративный механизм взвешенной передачи выходов капсул между слоями, который обеспечивает иерархическую агрегацию нейронных признаков путём настройки коэффициентов маршрутизации.»
Источник:
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).