神经微分方程是一类将微分方程与神经网络结合起来，用于描述连续动态系统的模型。
形式上定义一个形如
\[ \frac{d\mathbf{z}(t)}{dt} = f(\mathbf{z}(t), t, \theta) \]
的微分方程，其中 \( f \) 是一个带参数 \( \theta \) 的神经网络，用于描述状态向量 \( \mathbf{z}(t) \) 的时间导数。
该方程的解通过数值积分实现，例如使用龙格-库塔方法，从而可以将神经网络解释为连续深度模型。
这些模型特别适用于具有不规则时间戳的问题或基于物理的模拟，并且相比离散架构具有优势。
定义：
“神经微分方程是通过微分方程描述系统时间演化的模型，其右侧由神经网络参数化。”
来源：
Chen, R. T. Q., Rubanova, Y., Bettencourt, J., & Duvenaud, D. (2018). Neural Ordinary Differential Equations. Advances in Neural Information Processing Systems, 31.