Patrones de activación neuronal explicados para expertos


Los patrones de activación neuronal son las distribuciones características de los valores de activación dentro de las neuronas de una red neuronal, que surgen como respuesta a datos de entrada específicos.

Formalmente, la activación de una neurona \( i \) en la capa \( l \) se puede describir como la función \( a_i^{(l)} = \phi\left(\sum_j w_{ij}^{(l)} a_j^{(l-1)} + b_i^{(l)} ight) \), donde \( \phi \) es la función de activación, \( w_{ij}^{(l)} \) los pesos y \( b_i^{(l)} \) el sesgo.

Los patrones de activación totales a través de todas las neuronas y capas codifican las características abstraídas de la entrada y son cruciales para la toma de decisiones del modelo.

El estudio e interpretación de estos patrones, por ejemplo mediante visualización de activaciones o análisis de sensibilidad, permite obtener conocimientos sobre la representación interna y apoya la depuración y explicabilidad de las redes neuronales.


Definición:
«Los patrones de activación neuronal son las distribuciones específicas de valores de activación dentro de una red neuronal, que surgen en respuesta a datos de entrada y representan las características abstractas de dichos datos.»


Fuente:
Zeiler, M. D., & Fergus, R. (2014). Visualizing and Understanding Convolutional Networks. In European Conference on Computer Vision (ECCV).