Explicación de la escasez en redes de cápsulas para avanzados


La escasez en redes de cápsulas se refiere a la reducción selectiva de conexiones y neuronas activas en redes de cápsulas para evitar el sobreajuste y aumentar la eficiencia.

En una red de cápsulas, las cápsulas codifican vectores de características, y los mecanismos de escasez aseguran que solo las cápsulas relevantes permanezcan activas, mientras que las irrelevantes se suprimen.

Esto se puede lograr mediante técnicas como la regularización L1, el umbral o funciones de activación especiales que fomentan una selección natural de las características más importantes.

Las representaciones escasas mejoran la interpretabilidad y reducen el coste computacional, lo que es especialmente beneficioso en redes grandes.

Además, la escasez apoya la robustez frente al ruido y fomenta la generalización a nuevos datos.