用于图像分类不确定性推断的结构化 DropConnect
计算机视觉与模式识别
2021-08-03 v2 人工智能
摘要
随着网络结构复杂化,不确定性推断已成为提高人工智能系统分类精度的重要任务。针对图像分类任务,我们提出结构化 DropConnect (SDC) 框架,通过 Dirichlet 分布对深度神经网络输出建模。我们在训练时对全连接层权重引入 DropConnect 策略。在测试时,将网络拆分为若干子网络,然后通过匹配这些子网络输出的均值和方差来矩估计 Dirichlet 分布。最终利用所估计 Dirichlet 分布的熵进行不确定性推断。本文在 LeNet 和 VGG 模型上实现该框架,在 MNIST 和 CIFAR- 数据集上进行误分类检测和分布外检测。实验结果表明,所提 SDC 的性能可与其他不确定性推断方法相媲美。此外,SDC 能良好适配不同网络结构,具备一定泛化能力和研究前景。
引用
@article{arxiv.2106.08624,
title = {Structured DropConnect for Uncertainty Inference in Image Classification},
author = {Wenqing Zheng and Jiyang Xie and Weidong Liu and Zhanyu Ma},
journal= {arXiv preprint arXiv:2106.08624},
year = {2021}
}
备注
5 pages,1 figures