注意力图是一种方法,计算机可以用它来展示它们特别关注数据的哪些部分。
想象一下,你在阅读一段文字或观看一张图片——你的大脑不会同时关注所有内容,而是集中在重要的地方。
计算机使用注意力图来类似地识别哪些区域对某个任务是相关的,例如在文本翻译或图像中的物体识别中。
这样我们可以更好地理解人工智能如何做出决策,因为我们能看到它“观察”的内容。