面向星载对地观测图像分类的语义知识蒸馏
计算机视觉与模式识别
2024-11-04 v1 机器学习
信号处理
摘要
本研究提出了一种创新的动态加权知识蒸馏（KD）框架，专为资源受限环境下的高效对地观测（EO）图像分类（IC）而设计。该框架利用 EfficientViT 和 MobileViT 作为教师模型，使轻量级学生模型（特别是 ResNet8 和 ResNet16）在准确率、精确率和召回率上均超过 90%，满足可靠分类任务所需的严格置信度阈值。与依赖静态权重分配的传统 KD 方法不同，我们的自适应加权机制响应每个教师模型的置信度，使学生模型能够动态地优先考虑更可靠的知识来源。值得注意的是，ResNet8 实现了显著的效率提升，与 MobileViT 相比，参数量减少了 97.5%，FLOPs 降低了 96.7%，功耗削减了 86.2%，推理速度提升了 63.5%。这种在复杂性和资源需求上的显著优化，使 ResNet8 成为 EO 任务的最佳候选模型，兼具鲁棒性能与部署可行性。这种基于置信度的自适应 KD 方法凸显了动态蒸馏策略在产生适用于星载 EO 应用的高性能、资源高效型模型方面的潜力。可复现的代码已发布在我们的 GitHub 仓库中。
引用
@article{arxiv.2411.00209,
title = {Semantic Knowledge Distillation for Onboard Satellite Earth Observation Image Classification},
author = {Thanh-Dung Le and Vu Nguyen Ha and Ti Ti Nguyen and Geoffrey Eappen and Prabhu Thiruvasagam and Hong-fu Chou and Duc-Dung Tran and Luis M. Garces-Socarras and Jorge L. Gonzalez-Rios and Juan Carlos Merlano-Duncan and Symeon Chatzinotas},
journal= {arXiv preprint arXiv:2411.00209},
year = {2024}
}
备注
Under revisions