Neuronale Aktivierungsmuster sind die charakteristischen Verteilungen von Aktivierungswerten innerhalb der Neuronen eines neuronalen Netzwerks, die als Antwort auf spezifische Eingabedaten entstehen.
Formal lässt sich die Aktivierung eines Neurons \( i \) in Schicht \( l \) als Funktion \( a_i^{(l)} = \phi\left(\sum_j w_{ij}^{(l)} a_j^{(l-1)} + b_i^{(l)} ight) \) beschreiben, wobei \( \phi \) die Aktivierungsfunktion, \( w_{ij}^{(l)} \) die Gewichtungen und \( b_i^{(l)} \) der Bias sind.
Die Gesamtaktivierungsmuster über alle Neuronen und Schichten kodieren die abstrahierten Merkmale der Eingabe und sind entscheidend für die Entscheidungsfindung des Modells.
Die Untersuchung und Interpretation dieser Muster, etwa durch Aktivierungsvisualisierung oder Sensitivitätsanalysen, ermöglicht Einblicke in die interne Repräsentation und unterstützt das Debugging und die Erklärbarkeit neuronaler Netze.
Definition:
„Neuronale Aktivierungsmuster sind die spezifischen Verteilungen von Aktivierungswerten innerhalb eines neuronalen Netzwerks, die als Reaktion auf Eingabedaten entstehen und die abstrakten Merkmale dieser Daten repräsentieren.“
Quelle:
Zeiler, M. D., & Fergus, R. (2014). Visualizing and Understanding Convolutional Networks. In European Conference on Computer Vision (ECCV).