通过覆盖分析提升深度神经网络的置信度
机器学习
2025-09-10 v3 人工智能
摘要
机器学习算法与深度神经网络在若干感知与控制任务上的优异性能正推动产业界在自动驾驶机器人与车辆等安全关键应用中采用此类技术。然而，目前仍需解决若干问题以使深度学习方法更可信、可预测、安全且能抵御对抗攻击。尽管已提出多种方法提升深度神经网络的可信度，其中大多数针对特定类别的对抗样本定制，因而无法检测其他偏离训练样本严重的角例或不安全输入。本文提出一种基于覆盖范式的轻量级监控架构，以增强模型针对不同不安全输入的鲁棒性。特别地，在该架构中提出并测试了四种覆盖分析方法以评估多种检测逻辑。实验结果表明，所提方法能有效检测强力对抗样本与分布外输入，且仅引入有限的额外执行时间与内存需求。
引用
@article{arxiv.2101.12100,
title = {Increasing the Confidence of Deep Neural Networks by Coverage Analysis},
author = {Giulio Rossolini and Alessandro Biondi and Giorgio Buttazzo},
journal= {arXiv preprint arXiv:2101.12100},
year = {2025}
}