提升行人检测鲁棒性是否需要神经元覆盖率？
计算机视觉与模式识别
2022-04-22 v1 机器学习
摘要
深度神经网络（DNN）在自动驾驶等安全与安保关键领域的日益广泛应用，使得对其开展系统性测试成为必要。覆盖率引导测试（CGT）是一种依据预定义覆盖率指标进行变异或模糊测试以发现导致异常行为的输入的方法。随着神经元覆盖率指标的提出，CGT 近年来也被应用于 DNN。本文中，我们将 CGT 应用于拥挤场景下的行人检测任务。所提出的流程使用 YOLOv3 进行行人检测，并包含通过采样与变异发现 DNN 缺陷，以及随后在更新后的训练集上重新训练 DNN。要成为一个缺陷，我们要求变异图像相比干净输入导致显著的性能下降。依据 CGT，我们还在缺陷定义中考虑了覆盖率提升的附加要求。为探索多种鲁棒性类型，我们的方法包含自然图像变换、损坏，以及由 Daedalus 攻击生成的对抗样本。所提出的框架已揭示数千个 DNN 行为错误的案例。对于不同鲁棒性类型，重新训练模型在 mAP 性能上的相对变化平均达到 26.21% 至 64.24% 之间。然而，我们未发现证据表明所研究的覆盖率指标可被有利地用于提升鲁棒性。
引用
@article{arxiv.2204.10027,
title = {Is Neuron Coverage Needed to Make Person Detection More Robust?},
author = {Svetlana Pavlitskaya and Şiyar Yıkmış and J. Marius Zöllner},
journal= {arXiv preprint arXiv:2204.10027},
year = {2022}
}
备注
Accepted for publication at CVPR 2022 TCV workshop