面向专家的神经图灵机解释

神经图灵机（NTM）是可微分模型，由一个控制单元，通常是循环神经网络，和一个可寻址的外部存储组成。

控制器通过反向传播学习如何控制对存储的读写操作，从而实现算法过程的建模。

形式上，存储的读取可以表示为存储单元的加权和：

\[ r_t = \sum_i w_t(i) M_t(i) \]

其中 \( w_t(i) \) 是可微分的读权重，\( M_t(i) \) 是存储内容。

写操作通过加权加法和删除修改存储，同样由 \( w_t(i) \) 控制。

该架构扩展了经典神经网络，增加了动态存储组件，使得学习复杂的迭代算法成为可能。

定义：
“神经图灵机是可微分模型，将神经网络与可寻址的外部存储结合，通过可学习的读写操作解决算法任务。”

来源：
Graves, A., Wayne, G., & Danihelka, I. (2014). Neural Turing Machines. arXiv preprint arXiv:1410.5401.