La neuroévolution désigne l'application d'algorithmes évolutionnaires pour optimiser la structure et les paramètres des réseaux neuronaux.
Des populations de réseaux sont ainsi générées, évaluées et développées par sélection, mutation et recombinaison.
Contrairement aux méthodes d'apprentissage classiques comme la rétropropagation, la neuroévolution peut également ajuster l'architecture du réseau lui-même, par exemple le nombre de neurones ou de connexions.
Les algorithmes typiques sont les algorithmes génétiques, les stratégies évolutionnaires ou NEAT (NeuroEvolution of Augmenting Topologies).
L'avantage réside dans la capacité à résoudre des problèmes complexes, non différentiables ou dynamiques, surtout lorsque l'optimisation traditionnelle est difficile.