Attention Maps — это метод, с помощью которого компьютеры могут показать, на какие части данных они обращают особое внимание.
Представь, что ты читаешь текст или смотришь на изображение — твой мозг не концентрируется на всём одновременно, а на важных местах.
Компьютеры используют Attention Maps, чтобы аналогично определить, какие области важны для задачи, например при переводе текстов или распознавании объектов на изображениях.
Так мы можем лучше понять, как искусственный интеллект принимает решения, потому что видим, что он «наблюдает».