Neuronale Aktivierungsfunktionen transformieren die Summe der gewichteten Eingaben eines Neurons in einen Ausgabewert.

Sie führen Nichtlinearitäten in das Netzwerk ein, was essenziell ist, damit das Netz komplexe Funktionen approximieren kann.

Typische Aktivierungsfunktionen sind die Sigmoidfunktion, die Hyperbolische Tangensfunktion (tanh) und die Rectified Linear Unit (ReLU).

Jede Funktion hat ihre Vor- und Nachteile hinsichtlich Differenzierbarkeit, Wertebereich und Rechenaufwand.

Die Wahl der Aktivierungsfunktion beeinflusst das Lernverhalten und die Leistung des neuronalen Netzes stark.