面向零样本学习的相互因果语义蒸馏网络
计算机视觉与模式识别
2026-03-19 v1 机器学习
摘要
零样本学习（Zero-shot Learning, ZSL）旨在利用副信息（例如属性）在开放世界环境中识别未见类别。其核心任务在于如何推断视觉特征与属性特征之间潜在的语义知识，从而将seen类别的语义知识传递到unseen类别。现有方法仅以单向注意力机制以弱监督方式学习潜在语义表征，导致难以有效发现视觉与属性特征之间的内在语义知识。为解决上述挑战，本文提出一种相互因果语义蒸馏网络（MSDN++），用于从视觉和属性特征中提炼出足够且内在的语义表征。MSDN++包含一个属性→视觉的因果注意力子网络，用于学习基于属性的视觉特征，以及一个视觉→属性的因果注意力子网络，用于学习基于视觉的属性特征。这种因果注意力机制鼓励两个子网络学习因果的视觉-属性关联，以实现可靠的特征表示。结合语义蒸馏损失，两个相互注意力子网络在训练期间将相互学习、相互教导。在三个广泛使用的基准数据集（如CUB、SUN、AWA2和FLO）上的大量实验表明，MSDN++相较于强基线取得显著提升，达到新的状态水平性能。
引用
@article{arxiv.2603.17412,
title = {Mutually Causal Semantic Distillation Network for Zero-Shot Learning},
author = {Shiming Chen and Shuhuang Chen and Guo-Sen Xie and Xinge You},
journal= {arXiv preprint arXiv:2603.17412},
year = {2026}
}
备注
Accepted to IJCV. arXiv admin note: text overlap with arXiv:2203.03137