Symbolische Regression erklärt für Experten


Symbolische Regression ist ein nichtparametrisches, evolutionäres Optimierungsverfahren zur Identifikation mathematischer Modelle in Form von Symbolausdrücken, das darauf abzielt, eine Funktion \( f \) zu finden, die eine Menge von Datenpunkten \( (x_i, y_i) \) möglichst genau approximiert.

Formal wird die Suche als Optimierungsproblem definiert:

\[ \min_{f \in \mathcal{F}} \sum_{i=1}^n (y_i - f(x_i))^2 + \lambda \cdot ext{Komplexität}(f) \]

wobei \( \mathcal{F} \) der Raum aller möglichen Ausdrücke ist, die aus vordefinierten Operatoren (z.B. \( +, -, imes, \div, \sin, \log \)) und Variablen zusammengesetzt sind, und \( \lambda \) ein Regularisierungsparameter zur Steuerung der Modellkomplexität.

Die Optimierung erfolgt meist mittels genetischer Programmierung, welche Populationen von Formeln erzeugt, bewertet und durch Selektion, Kreuzung und Mutation weiterentwickelt.

Symbolische Regression liefert oft interpretable Modelle, die physikalische oder systemtheoretische Zusammenhänge abbilden, und wird in Bereichen wie Systemidentifikation, Wissenschaft und Ingenieurwesen eingesetzt.


Definition:
„Symbolische Regression ist ein evolutionäres Lernverfahren, das mittels Suche in einem Raum möglicher mathematischer Ausdrücke eine Gleichung findet, die Daten beschreibt und dabei Modellgenauigkeit und -komplexität balanciert.“


Quelle:
Koza, J. R. (1992). Genetic Programming: On the Programming of Computers by Means of Natural Selection. MIT Press.