Las máquinas de Turing neuronales (NTM) son modelos diferenciables que consisten en una unidad controladora, generalmente una red neuronal recurrente, y una memoria externa direccionable.
El controlador aprende mediante retropropagación a controlar las operaciones de lectura y escritura en la memoria, lo que permite modelar procesos algorítmicos.
Formalmente, la lectura de la memoria puede representarse como una suma ponderada de las celdas de memoria:
\[ r_t = \sum_i w_t(i) M_t(i) \]
donde \( w_t(i) \) son los pesos de lectura diferenciables y \( M_t(i) \) los contenidos de la memoria.
Las operaciones de escritura modifican la memoria mediante adiciones y borrados ponderados, también controlados por \( w_t(i) \).
Esta arquitectura extiende las redes neuronales clásicas con un componente de memoria dinámica y permite aprender algoritmos complejos e iterativos.
Definición:
«Las máquinas de Turing neuronales son modelos diferenciables que combinan una red neuronal con una memoria externa direccionable para resolver tareas algorítmicas mediante operaciones de lectura y escritura aprendibles.»
Fuente:
Graves, A., Wayne, G., & Danihelka, I. (2014). Neural Turing Machines. arXiv preprint arXiv:1410.5401.