ROBY：通过决策边界评估深度模型的鲁棒性
机器学习
2020-12-21 v1
摘要
随着深度学习模型在许多真实世界任务中的成功应用，模型鲁棒性变得愈发关键。通常，我们通过用专门生成的对抗样本攻击深度模型来评估其鲁棒性，这种方法计算成本高且依赖于特定攻击者与模型类型。本工作提出一种通用评估度量 ROBY，一种基于模型决策边界的、与攻击无关的鲁棒性度量新指标。ROBY 不依赖对抗样本，而是利用类间与类内统计特征来刻画模型决策边界的特征。我们在十个前沿深度模型上实验，表明 ROBY 仅以 1% 的时间成本即可匹配强一阶通用攻击者的攻击成功率（ASR）这一鲁棒性黄金标准。据我们所知，ROBY 是首个可应用于广泛深度模型的轻量级、与攻击无关的鲁棒性评估度量。ROBY 的代码已开源：https://github.com/baaaad/ROBY-Evaluating-the-Robustness-of-a-Deep-Model-by-its-Decision-Boundaries。
引用
@article{arxiv.2012.10282,
title = {ROBY: Evaluating the Robustness of a Deep Model by its Decision Boundaries},
author = {Jinyin Chen and Zhen Wang and Haibin Zheng and Jun Xiao and Zhaoyan Ming},
journal= {arXiv preprint arXiv:2012.10282},
year = {2020}
}