Символическая регрессия для экспертов


Символическая регрессия — это непараметрический эволюционный метод оптимизации для идентификации математических моделей в виде символьных выражений, который направлен на поиск функции \( f \), максимально точно аппроксимирующей множество точек данных \( (x_i, y_i) \).

Формально задача поиска определяется как задача оптимизации:

\[ \min_{f \in \mathcal{F}} \sum_{i=1}^n (y_i - f(x_i))^2 + \lambda \cdot ext{Сложность}(f) \]

где \( \mathcal{F} \) — пространство всех возможных выражений, составленных из предопределённых операторов (например, \( +, -, imes, \div, \sin, \log \)) и переменных, а \( \lambda \) — параметр регуляризации для контроля сложности модели.

Оптимизация обычно проводится с помощью генетического программирования, которое создаёт, оценивает и развивает популяции формул посредством селекции, скрещивания и мутации.

Символическая регрессия часто даёт интерпретируемые модели, отражающие физические или системно-теоретические зависимости, и применяется в таких областях, как системная идентификация, наука и инженерия.


Определение:
«Символическая регрессия — это эволюционный метод обучения, который путём поиска в пространстве возможных математических выражений находит уравнение, описывающее данные, балансируя точность модели и её сложность.»


Источник:
Koza, J. R. (1992). Genetic Programming: On the Programming of Computers by Means of Natural Selection. MIT Press.