看一即见多:面向跨分辨率图像识别的混合阶关系知识蒸馏
计算机视觉与模式识别
2024-09-10 v1 人工智能
多媒体
摘要
尽管最近的深度模型在许多图像识别任务中取得了巨大成功,但由于分辨率退化过程中信息细节的丢失,直接将其应用于低分辨率图像识别可能会导致精度低下。然而,对于熟悉相应高分辨率图像的主体而言,这些图像仍然是可识别的。受此启发,我们提出了一种师生学习方法,通过混合阶关系知识蒸馏来促进低分辨率图像识别。该方法包含三个流:教师流经过预训练以高精度识别高分辨率图像;学生流通过模仿教师的行为来学习识别低分辨率图像;额外的辅助流作为桥梁引入,以帮助从教师到学生的知识迁移。为了提取充足的知识以减少精度损失,学生的学习受多重损失监督,从而保留不同阶关系结构中的相似性。通过这种方式,可以有效增强恢复熟悉的低分辨率图像缺失细节的能力,从而实现更好的知识迁移。在度量学习、低分辨率图像分类和低分辨率人脸识别任务上的大量实验表明,在采用精简模型的同时,我们的方法是有效的。
引用
@article{arxiv.2409.05384,
title = {Look One and More: Distilling Hybrid Order Relational Knowledge for Cross-Resolution Image Recognition},
author = {Shiming Ge and Kangkai Zhang and Haolin Liu and Yingying Hua and Shengwei Zhao and Xin Jin and Hao Wen},
journal= {arXiv preprint arXiv:2409.05384},
year = {2024}
}
备注
Accepted by AAAI 2020