零样本学习(Zero-Shot Learning,ZSL)是一种机器学习范式,其中模型能够识别没有训练样本的类别。
形式上考虑两个类别集合:训练类别 \( \mathcal{Y}_{seen} \) 和测试类别 \( \mathcal{Y}_{unseen} \),且满足 \( \mathcal{Y}_{seen} \cap \mathcal{Y}_{unseen} = \emptyset \)。
目标是学习一个函数 \( f: \mathcal{X} \to \mathcal{Y}_{unseen} \),该函数能够将输入数据 \( x \in \mathcal{X} \) 正确地分配到未知类别,通过访问类别的语义表示 \( \phi(y) \)。
这些表示可以是属性、词向量或其他语义嵌入,这些嵌入对已见类别和未见类别均可用。
一种常见的方法是将输入数据和类别属性投影到一个共同空间,以计算相似度,从而分配未知类别。
定义:
“零样本学习是一种学习方法,模型通过类别的语义描述识别新类别,而无需这些类别的训练数据。”
来源:
Palatucci, M., Pomerleau, D., Hinton, G. E., & Mitchell, T. M. (2009). Zero-Shot Learning with Semantic Output Codes. Advances in Neural Information Processing Systems (NeurIPS).