通过知识蒸馏实现植物监控的能源效率
计算机视觉与模式识别
2026-05-01 v1
摘要
近期在大规模视觉表征学习方面的进展显著提升了植物种类和植物病害识别任务的性能。然而，基于高容量视觉转换器或多模态基础模型的前沿模型仍然计算昂贵，难以在移动或边缘设备等资源受限的环境中部署。这一限制阻碍了自动生物多样性监测和精密农业系统的可扩展性，而在这些系统中效率与准确性同样至关重要。本文探讨了将大型预训练模型的表征能力通过知识蒸馏转移到更小高效的架构中作为有效方法。我们聚焦于植物种类和病害识别，在两个具有挑战性的基准数据集上进行了广泛的实证研究：Pl@ntNet300K-v2 和 Deep-Plant-Disease。我们评估了四种代表性架构，包括两个 ConvNeXt 模型和两个视觉转换器，在多种训练方案下进行评估：从头训练和预训练初始化，每种方案都带有和不带蒸馏。总共训练和评估了 70 个模型。我们的结果表明，知识蒸馈在各种任务和架构上均一致性地提升了性能。蒸馏模型能够在保持显著更低计算成本的同时，匹配显著更大模型的性能。这一发现表明，知识蒸馈技术有望在实际环境应用中实现植物识别系统的高效可扩展部署。
引用
@article{arxiv.2604.27178,
title = {Energy-Efficient Plant Monitoring via Knowledge Distillation},
author = {Ilyass Moummad and Reda Bensaid and Kawtar Zaher and Hervé Goëau and Jean-Christophe Lombardo and Joseph Salmon and Pierre Bonnet and Alexis Joly},
journal= {arXiv preprint arXiv:2604.27178},
year = {2026}
}