PredCoin：针对基于查询的硬标签攻击的防御
密码学与安全
2021-02-08 v1 人工智能
摘要
近来针对深度神经网络（DNNs）提出了许多对抗攻击与防御方法。虽然其中大多数处于不切实际的白盒设定下，一类新的基于查询的硬标签（QBHL）黑盒攻击对现实世界应用（例如Google Cloud、腾讯API）构成了重大威胁。迄今为止，尚未提出可泛化且实用的防御此类攻击的方法。本文提出并评估了PredCoin，一种针对QBHL攻击提供鲁棒性的实用且可泛化的方法。PredCoin毒化梯度估计步骤，而该步骤是大多数QBHL攻击的关键组成部分。PredCoin成功识别攻击者精心构造的梯度估计查询，并向输出引入不确定性。大量实验表明，PredCoin在各种设定和任务下成功防御了四种最先进的QBHL攻击，同时保持了目标模型的整体准确率。PredCoin还被证明对几种防御感知攻击具有鲁棒性和有效性，这些攻击可能完全知晓PredCoin的内部机制。
引用
@article{arxiv.2102.02923,
title = {PredCoin: Defense against Query-based Hard-label Attack},
author = {Junfeng Guo and Yaswanth Yadlapalli and Thiele Lothar and Ang Li and Cong Liu},
journal= {arXiv preprint arXiv:2102.02923},
year = {2021}
}
备注
13 pages