深度学习分层分布感知测试

深度学习（DL）正日益用于安全关键应用，引发对其可靠性的担忧。DL 存在一个众所周知的缺乏鲁棒性的问题，尤其在面对称为对抗样本（AEs）的对抗扰动时。尽管近期努力使用先进攻击与测试方法来检测 AEs，这些方法常忽视输入分布与扰动的感知质量。结果，检测到的 AEs 在实际应用中可能不相关，或在人类观察者看来不真实。这会浪费测试资源于真实世界使用中极少出现的罕见 AEs，限制 DL 模型可靠性的提升。本文提出一种新的鲁棒性测试方法，用于检测同时考虑特征层分布与像素层分布的 AEs，以捕捉对抗扰动的感知质量。这两种考量由一种新颖的分层机制编码。首先，我们基于特征层分布密度与对抗鲁棒性脆弱性选择测试种子。测试种子的脆弱性由与局部鲁棒性高度相关的辅助信息指示。给定测试种子，我们进而开发一种新颖的基于遗传算法的局部测试用例生成方法，其中两个适应度函数交替工作以控制所检测 AEs 的感知质量。最后，大量实验证实，我们的整体分层分布方法优于不考虑任何输入分布或仅考虑单一（非分层）分布的现有最优方法，不仅在检测不可感知 AEs 方面，也在提升被测 DL 模型整体鲁棒性方面。