AgriKD：面向高效叶片病害分类的跨架构知识蒸馏

自动叶片病害分类对于资源受限的现场环境中的早期病害检测至关重要。视觉 Transformer（ViT）通过建模长程依赖与类间关系提供强大的表征能力；然而，其高计算成本使其在边缘设备上难以部署。因此，现有方法难以有效地将这些丰富的表征 transferred 到轻量级模型。本文引入 AgriKD，一个面向高效边缘部署的跨架构知识蒸馏框架，将知识从视觉 Transformer（ViT）教师模型蒸馏到紧凑卷积学生模型。为弥合 Transformer 与 CNN 架构之间的表征鸿沟，本方法在输出、特征与关系三个层面集成多个蒸馏目标，其中每个目标捕获教师知识的不同方面。这使得学生模型能够更好地保留并利用源自 Transformer 的全局表征。实验在多个叶片病害数据集上表明，蒸馏后的学生模型在保持与教师相当性能的同时，显著提升了效率，模型参数约减少 172 倍，计算成本降低 47.57 倍，推理延迟降低 18-22 倍。此外，优化后的模型部署在多个运行时格式上，包括 ONNX、TFLite Float16 与 TensorRT FP16，实现一致的预测性能，误差极小。实景部署于 NVIDIA Jetson 边缘设备与移动应用，显示出可靠的实时推理能力，凸显了 AgriKD 在资源受限环境中实现 AI 驱动农业应用的实用性。