通过精度监控提升深度神经网络的可信度
机器学习
2020-07-06 v1 机器学习
摘要
深度神经网络（DNN）的推理精度是一个关键的性能指标，但在实践中会因实际测试数据集的不同而有很大变化，并且由于缺乏真实标签通常是未知的。这引发了对DNN可信度的重大担忧，特别是在安全关键应用中。在本文中，我们通过使用事后处理来监控用户数据集上的真实推理精度，从而解决DNN的可信度问题。具体来说，我们提出了一种基于神经网络的精度监控模型，该模型仅将部署的DNN的softmax概率输出作为输入，并直接预测DNN的预测结果是否正确，从而估计真实的推理精度。精度监控模型可以在与目标应用相关的数据集上进行预训练，并且只需要主动标记用户数据集的一小部分（在我们的实验中为1%）用于模型迁移。为了提高估计的鲁棒性，我们进一步采用了基于蒙特卡洛丢弃法的监控模型集成。我们在多个数据集（包括对抗样本）上对用于图像分类和交通标志检测的不同部署DNN模型评估了我们的方法。结果表明，我们的精度监控模型提供了接近真实的精度估计，并且优于现有的基线方法。
引用
@article{arxiv.2007.01472,
title = {Increasing Trustworthiness of Deep Neural Networks via Accuracy Monitoring},
author = {Zhihui Shao and Jianyi Yang and Shaolei Ren},
journal= {arXiv preprint arXiv:2007.01472},
year = {2020}
}
备注
Accepted by the AISafety workshop co-located with IJCAI-PRICAI 2020