La recherche d'architecture neuronale (NAS) est une méthode automatisée qui utilise des algorithmes d'optimisation pour trouver des architectures de réseaux adaptées aux réseaux neuronaux.
Les méthodes typiques comprennent l'apprentissage par renforcement, les algorithmes évolutionnaires ou les méthodes différentiables de recherche d'architecture.
L'espace de recherche définit les architectures possibles, par exemple le nombre et le type de couches, les types de connexions ou les hyperparamètres.
NAS optimise à la fois la performance (par exemple la précision) et l'efficacité (par exemple la charge de calcul) et peut ainsi produire de meilleurs modèles que les architectures conçues manuellement.
Un aspect important est l'équilibre entre le temps de recherche et la qualité du modèle, car NAS est généralement très gourmand en calcul et des techniques comme les modèles proxy ou le partage de poids sont utilisées pour accélérer la recherche.