基于不确定性感知决策融合的自适应深度网络图像分类提升

在现代人工智能应用中，处理不同计算资源的可变性是关键性问题。自适应深度网络特征在于动态使用多个不同层次的分类器头，以应对不同计算资源下的分类任务。现有方法通常利用由可用资源支持的最后一个分类器进行推理，因为认为最后一个分类器在所有类别上都性能更好。然而，我们的发现表明，早期分类器头对于某些类别可能优于最后一个分类器。基于这一观察，我们引入了协同决策（Collaborative Decision Making, CDM）模块，融合多个分类器头以提升自适应深度网络的推理性能。CDM 融合基于证据深度学习（Evidential Deep Learning, EDL）的不确定性感知融合方法，该方法利用前 c-1 个分类器的可靠性（不确定性值）来提高第 c 个分类器的准确性。我们还设计了一个平衡项，以减少 EDL 约束导致的融合饱和和不公平问题，从而提高 CDM 的融合质量。最后，提出一种正则化训练策略，使用最后一个分类器指导早期分类器的学习过程，以进一步提升 CDM 模块的效果，称为引导式协同决策（Guided Collaborative Decision Making, GCDM）框架。实验评估表明，我们的方法有效。ImageNet 数据集上的结果表明，CDM 和 GCDM 在流行的自适应网络上可获得 0.4%至 2.8%的准确率提升（在不同计算资源下）。代码地址为 https://github.com/Meteor-Stars/GCDM_AdaptiveNet。