基于互补并行自蒸馏的多标签图像分类提升方法
计算机视觉与模式识别
2022-05-24 v1 人工智能
摘要
多标签图像分类(Multi-Label Image Classification, MLIC)方法通常利用标签相关性来取得良好性能。然而，强调如共现这样的相关性可能忽略目标自身的判别性特征并导致模型过拟合，从而损害性能。在本研究中，我们提出一个名为并行自蒸馏(Parallel Self-Distillation, PSD)的通用框架以提升 MLIC 模型。PSD 通过两种精心设计的互补任务分解策略——共现图划分(Co-occurrence Graph Partition, CGP)和互斥图划分(Dis-occurrence Graph Partition, DGP)——将原始 MLIC 任务分解为若干更简单的 MLIC 子任务。随后，类别数更少的 MLIC 模型通过这些子任务并行训练，分别学习标签的联合模式与类别特有模式。最后，利用知识蒸馏以这些学到的模式学习一个紧凑的全类别全局集成，从而调和标签相关性利用与模型过拟合。在 MS-COCO 和 NUS-WIDE 数据集上的大量结果表明，我们的框架可轻松插入许多 MLIC 方法中并提升近期最先进(state-of-the-art)方法的性能。可解释性视觉研究也进一步验证了我们的方法能够同时学习类别特有特征与共现特征。源代码发布于 https://github.com/Robbie-Xu/CPSD。
引用
@article{arxiv.2205.10986,
title = {Boosting Multi-Label Image Classification with Complementary Parallel Self-Distillation},
author = {Jiazhi Xu and Sheng Huang and Fengtao Zhou and Luwen Huangfu and Daniel Zeng and Bo Liu},
journal= {arXiv preprint arXiv:2205.10986},
year = {2022}
}
备注
accepted by IJCAI2022