面向专家的符号回归解释


符号回归是一种非参数的进化优化方法,用于识别以符号表达式形式表示的数学模型,旨在找到一个函数 \( f \),该函数能够尽可能准确地逼近一组数据点 \( (x_i, y_i) \)。

形式上,搜索被定义为一个优化问题:

\[ \min_{f \in \mathcal{F}} \sum_{i=1}^n (y_i - f(x_i))^2 + \lambda \cdot ext{复杂度}(f) \]

其中 \( \mathcal{F} \) 是由预定义算子(例如 \( +, -, imes, \div, \sin, \log \))和变量组成的所有可能表达式的空间,\( \lambda \) 是用于控制模型复杂度的正则化参数。

优化通常通过遗传编程进行,该方法生成、评估公式群体,并通过选择、交叉和变异进行进化。

符号回归通常提供可解释的模型,这些模型反映物理或系统理论关系,广泛应用于系统识别、科学和工程领域。


定义:
“符号回归是一种进化学习方法,通过在可能的数学表达式空间中搜索,找到描述数据的方程,同时平衡模型的准确性和复杂度。”


来源:
Koza, J. R. (1992). Genetic Programming: On the Programming of Computers by Means of Natural Selection. MIT Press.