基于自适应深度神经网络中上置置信界算法性能的比较分析
机器学习
2026-05-25 v3 人工智能
摘要
边缘计算环境对能源消耗和延迟施加了严格限制,使得深度神经网络的部署面临重大挑战。因此,在边缘计算场景下,能够动态平衡计算成本或延迟与预测精度的智能自适应推理策略至关重要。本文基于采用多臂赌博机(MAB)框架的自适应深度神经网络(Adaptive Deep Neural Networks, ADNNs)进行研究。当前文献利用上置置信界(Upper Confidence Bound, UCB)第一版本策略,动态选择最优置信阈值,从而在不牺牲精度的情况下实现高效的早期退出。然而,我们本文引入了四种额外的上置置信界策略,包括 UCB-V、UCB-Tuned、UCB-Bayes 和 UCB-BwK,并首次对这些策略在精度、能源消耗和延迟之间的权衡进行比较研究。所提出的 UCB 策略在 ResNet 和 MobileViT 神经网络上实现,并在 CIFAR-10、CIFAR-10.1 和 CIFAR-100 数据集上进行评估。实验结果表明,所有策略均实现亚线性累积后悔,其中 UCB-Bayes 收敛速度最快,随后为 UCB-Tuned 和 UCB-V。最后,UCB-V 和 UCB-Tuned 在精度-延迟和精度-能源权衡的帕累托前沿上占据主导地位。实现代码已提供:https://github.com/gr3gor1/MAB_UCB
引用
@article{arxiv.2604.24810,
title = {A Comparative Analysis on the Performance of Upper Confidence Bound Algorithms in Adaptive Deep Neural Networks},
author = {Grigorios Papanikolaou and Ioannis Kontopoulos and Konstantinos Tserpes},
journal= {arXiv preprint arXiv:2604.24810},
year = {2026}
}
备注
The paper has been accepted for publication in IEEE SMARTCOMP 2026