胶囊网络路由专家解读

胶囊网络路由是胶囊网络中的一种机制，用于控制胶囊输出向下一层胶囊的加权传递，以实现层次化特征聚合。

形式上，动态路由描述了路由系数 \( c_{ij} \) 的迭代优化过程，这些系数决定了胶囊 \( i \) 的输出传递给胶囊 \( j \) 的强度。

路由系数根据预测值 \( \hat{\mathbf{u}}_{j|i} = \mathbf{W}_{ij} \mathbf{u}_i \) 与目标胶囊输出 \( \mathbf{v}_j \) 之间的一致性进行迭代调整，通常通过对 \( c_{ij} \) 进行 Softmax 处理和使用非线性挤压函数进行归一化。

该过程使得部分的姿态和激活信息能够层次化地汇聚到对象上，对于胶囊网络比传统神经网络更好地捕捉空间关系至关重要。

定义：
“胶囊网络路由是一种在层间加权传递胶囊输出的迭代机制，通过调整路由系数实现神经特征的层次聚合。”

来源：
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).