ReStNet：面向物联网设备的可重用与可拼接网络
计算机视觉与模式识别
2025-06-12 v1 人工智能
摘要
随着深度学习的快速发展，大量预训练模型已公开可用。然而，在实际物联网应用中部署这些固定模型具有挑战性，因为不同设备的计算和存储资源具有异构性，无法在所有平台上部署单一模型。虽然剪枝、量化和知识蒸馏等传统压缩方法可提升效率，但一旦应用便难以灵活调整，无法适应变化的资源限制。为此，我们提出 ReStNet（Reusable and Stitchable Network），一种可重用可拼接网络，通过拼接两种预训练模型构建混合网络。实现 ReStNet 需要解决多个关键问题，包括如何选择最佳拼接点、确定两种预训练模型的拼接顺序以及选择有效的微调策略。为系统性地解决这些问题并适应不同资源限制，ReStNet 通过中心化核对齐（CKA）计算层级相似度来确定拼接点，然后通过保留大容量模型的前期层并追加小容量模型的后期层来构建混合模型。为简化部署，仅对拼接层进行微调。该设计使我们能够在保持资源充分利用的同时，快速适应不同预算需求。此外，ReStNet 支持同构（CNN-CNN、Transformer-Transformer）和异构（CNN-Transformer）拼接，灵活组合不同模型家族。广泛的基准实验表明，ReStNet 在运行时实现了灵活的精度-效率权衡，显著降低了训练成本。
引用
@article{arxiv.2506.09066,
title = {ReStNet: A Reusable & Stitchable Network for Dynamic Adaptation on IoT Devices},
author = {Maoyu Wang and Yao Lu and Jiaqi Nie and Zeyu Wang and Yun Lin and Qi Xuan and Guan Gui},
journal= {arXiv preprint arXiv:2506.09066},
year = {2025}
}