Les cartes d'attention visualisent les pondérations des mécanismes d'attention dans les réseaux neuronaux, qui déterminent l'importance accordée à chaque élément d'entrée lors du traitement.
Ces cartes montrent quelles parties des données d'entrée sont particulièrement importantes pour le modèle et aident à mieux comprendre les processus de décision.
Dans les modèles Transformer, par exemple, des scores d'attention sont calculés entre les tokens, qui peuvent être représentés sous forme de cartes thermiques pour illustrer la focalisation sur certains mots ou régions d'image.
L'analyse des cartes d'attention aide au débogage et à l'amélioration des modèles ainsi qu'à accroître la transparence dans des tâches complexes telles que la traduction automatique ou la description d'images.