基于边缘AI的图像描述任务中Transformer模型与知识蒸馏方法分析
计算机视觉与模式识别
2025-06-05 v1
摘要
边缘计算将处理能力分散到网络边缘，使物联网应用中的实时AI驱动决策成为可能。在工业自动化（如机器人和边缘AI）中，实时感知与智能对于自主运行至关重要。将基于Transformer的图像描述模型部署到边缘可以增强机器感知、改善自主机器人的场景理解，并辅助工业检测。然而，这些边缘或物联网设备在计算资源方面往往受限，同时又有严格的响应时间要求。传统的深度学习模型对这些设备而言可能过于庞大且计算需求过高。在本研究中，我们展示了能够在边缘设备上有效运行的基于Transformer的图像描述模型。通过评估资源高效的Transformer模型并应用知识蒸馏技术，我们证明了可以在资源受限设备上加速推理，同时借助这些技术保持模型性能。
引用
@article{arxiv.2506.03607,
title = {Analyzing Transformer Models and Knowledge Distillation Approaches for Image Captioning on Edge AI},
author = {Wing Man Casca Kwok and Yip Chiu Tung and Kunal Bhagchandani},
journal= {arXiv preprint arXiv:2506.03607},
year = {2025}
}