Los patrones de activación neuronal son las distribuciones características de los valores de activación dentro de las neuronas de una red neuronal, que surgen como respuesta a datos de entrada específicos.
Formalmente, la activación de una neurona \( i \) en la capa \( l \) se puede describir como la función \( a_i^{(l)} = \phi\left(\sum_j w_{ij}^{(l)} a_j^{(l-1)} + b_i^{(l)} ight) \), donde \( \phi \) es la función de activación, \( w_{ij}^{(l)} \) los pesos y \( b_i^{(l)} \) el sesgo.
Los patrones de activación totales a través de todas las neuronas y capas codifican las características abstraídas de la entrada y son cruciales para la toma de decisiones del modelo.
El estudio e interpretación de estos patrones, por ejemplo mediante visualización de activaciones o análisis de sensibilidad, permite obtener conocimientos sobre la representación interna y apoya la depuración y explicabilidad de las redes neuronales.
Definición:
«Los patrones de activación neuronal son las distribuciones específicas de valores de activación dentro de una red neuronal, que surgen en respuesta a datos de entrada y representan las características abstractas de dichos datos.»
Fuente:
Zeiler, M. D., & Fergus, R. (2014). Visualizing and Understanding Convolutional Networks. In European Conference on Computer Vision (ECCV).