基于输入的机会主义神经网络动态执行方法 PERTINENCE
机器学习
2025-11-18 v2
摘要
深度神经网络（DNN）因其在计算机视觉、语音识别、机器人等多个领域建模复杂模式的卓越能力而变得无处不在。虽然大型 DNN 模型通常比简单轻量级模型更准确，但也更耗资源和耗能。因此，必须设计方法在不显著降低输出准确率的前提下减少对此类大型模型的依赖。这些模型的高计算成本通常只在少数具有挑战性的输入上才必不可少，而大多数简单输入可以由更轻量级的模型处理。因此，仔细以动态、基于输入的方式组合现有 DNN 模型的属性，为在不影响准确率的前提下提高效率开辟了机会。本文引入 PERTINENCE，一种新颖的在线方法，用于分析输入特征的复杂度，并动态从预训练模型集合中选择最合适的模型来有效处理给定输入。为实现此目标，我们采用遗传算法探索基于机器学习的输入调度器的训练空间，使其在解空间中收敛于在整体准确率和计算效率之间取得平衡的帕累托前沿。我们在在 CIFAR-10 和 CIFAR-100 上的最新卷积神经网络（CNN）以及在 TinyImageNet 数据集上的 Vision Transformer（ViT）上展示了我们的方案。我们报告的结果表明，PERTINENCE 能够在准确率与计算量之间的权衡方面提供与现有前沿模型相似或更好的解决方案。通过机会主义地在为相同任务训练的模型中进行选择，PERTINENCE 在准确率方面可实现最高 36% 更少的运算量。
引用
@article{arxiv.2507.01695,
title = {PERTINENCE: Input-based Opportunistic Neural Network Dynamic Execution},
author = {Omkar Shende and Gayathri Ananthanarayanan and Marcello Traiola},
journal= {arXiv preprint arXiv:2507.01695},
year = {2025}
}