面向视觉任务的边缘模型与高精度基模型差异特征化
计算机视觉与模式识别
2024-07-16 v1 人工智能
摘要
边缘设备由于能力各异，支持多样化的边缘AI模型。这引出一个问题：边缘模型与相同任务下的高精度（基）模型有何不同？我们引入XDELTA，一个新型可解释AI工具，用于解释高精度基模型与计算效率较低但精度更低的边缘模型之间的差异。为实现此目标，我们提出一种基于学习的方法来刻画模型差异，称为DELTA网络，它以紧凑形式补充边缘网络的特征表示能力。为构建DELTA，我们提出一种稀疏优化框架，从基模型中提取精髓，以确保DELTA的紧凑性和充分的特征表示能力，并实现负相关学习以确保其与边缘模型互补。我们进行了全面评估，使用超过120万张图片和24个模型，评估了实际部署中的六个参与者。XDELTA通过几何和概念层面的分析，证明能够有效解释基模型与边缘模型之间的差异（包括任意组合以及压缩后的基模型），在实际应用中表现出色。
引用
@article{arxiv.2407.10016,
title = {Characterizing Disparity Between Edge Models and High-Accuracy Base Models for Vision Tasks},
author = {Zhenyu Wang and Shahriar Nirjon},
journal= {arXiv preprint arXiv:2407.10016},
year = {2024}
}