用于开放世界组合零样本学习的蒸馏反向注意力网络
计算机视觉与模式识别
2023-03-02 v1
摘要
开放世界组合零样本学习（OW-CZSL）旨在识别可见属性与对象的新组合。在 OW-CZSL 中，基于传统封闭世界设定构建的方法因不受约束的 OW 测试空间而严重退化。先前工作通过依据外部知识或可见对中的相关性剪枝组合来缓解该问题，但引入了损害泛化的偏差。一些方法因而使用独立构建并训练的分类器预测状态与对象，忽视了属性具有高度上下文依赖性且与对象在视觉上纠缠在一起。本文提出一种新颖的蒸馏反向注意力网络以应对这些挑战。我们也分别建模属性与对象但出于不同动机，分别捕捉上下文性与局部性。我们进一步设计一种反向-蒸馏策略，在反向注意力与知识蒸馏监督下从训练数据中学习基本成分的解耦表示。我们在三个数据集上开展实验，一致取得了最先进（SOTA）性能。
关键词
引用
@article{arxiv.2303.00404,
title = {Distilled Reverse Attention Network for Open-world Compositional Zero-Shot Learning},
author = {Yun Li and Zhe Liu and Saurav Jha and Sally Cripps and Lina Yao},
journal= {arXiv preprint arXiv:2303.00404},
year = {2023}
}