面向深度学习模型补丁鲁棒性认证的大多数不变方法
机器学习
2023-09-08 v2 计算机视觉与模式识别
软件工程
摘要
补丁鲁棒性认证确保样本上给定边界内的任何补丁都无法操纵深度学习模型预测出不同标签。然而，现有技术无法认证那些在分类器或补丁区域层面无法满足其严格标准的样本。本文提出 MajorCert。MajorCert 首先找出同一补丁区域在同一样本上借助底层分类器可操纵的所有可能标签集合，随后逐元素枚举其组合，最后检查所有这些组合的大多数不变性是否完好，从而对样本进行认证。
引用
@article{arxiv.2308.00452,
title = {A Majority Invariant Approach to Patch Robustness Certification for Deep Learning Models},
author = {Qilin Zhou and Zhengyuan Wei and Haipeng Wang and W. K. Chan},
journal= {arXiv preprint arXiv:2308.00452},
year = {2023}
}
备注
5 pages, 2 figures, accepted for inclusion in the ASE 2023 NIER track