胶囊网络可解释性专家解读

胶囊网络可解释性指的是对胶囊网络（CapsNets）内部机制的研究和展示，特别是胶囊激活和动态路由过程，以使决策过程变得可理解。

CapsNets由胶囊组成，这些胶囊表示向量或矩阵，编码特征的概率及其姿态。信息传递通过迭代的基于一致性的路由进行，该路由动态调整胶囊之间的加权连接。

为实现可解释性，采用激活可视化、路由中的一致性得分分析和姿态参数分解等方法，以解释模型在分类时所利用的特征和空间关系。

定义：
“胶囊网络可解释性是研究和应用方法，以透明地展示和解释胶囊网络中的内部表示和动态路由机制，从而使其决策过程变得可理解。”

来源：
Sabour, S., Frosst, N., & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems, 30.