Régression symbolique expliquée pour les experts


La régression symbolique est une méthode d'optimisation évolutive non paramétrique visant à identifier des modèles mathématiques sous forme d'expressions symboliques, qui cherche à trouver une fonction \( f \) approximant au mieux un ensemble de points de données \( (x_i, y_i) \).

Formellement, la recherche est définie comme un problème d'optimisation :

\[ \min_{f \in \mathcal{F}} \sum_{i=1}^n (y_i - f(x_i))^2 + \lambda \cdot ext{Complexité}(f) \]

où \( \mathcal{F} \) est l'espace de toutes les expressions possibles composées d'opérateurs prédéfinis (par ex. \( +, -, imes, \div, \sin, \log \)) et de variables, et \( \lambda \) est un paramètre de régularisation contrôlant la complexité du modèle.

L'optimisation est généralement réalisée par programmation génétique, qui génère, évalue et fait évoluer des populations de formules par sélection, croisement et mutation.

La régression symbolique produit souvent des modèles interprétables représentant des relations physiques ou systémiques, et est utilisée dans des domaines tels que l'identification de systèmes, la science et l'ingénierie.


Définition :
« La régression symbolique est une méthode d'apprentissage évolutive qui, par une recherche dans un espace d'expressions mathématiques possibles, trouve une équation décrivant les données tout en équilibrant précision et complexité du modèle. »


Source :
Koza, J. R. (1992). Genetic Programming: On the Programming of Computers by Means of Natural Selection. MIT Press.