BufferSearch：以更少查询生成黑盒对抗文本
密码学与安全
2023-10-17 v1
摘要
机器学习安全近期成为自然语言处理（NLP）领域的热点话题。现有黑盒对抗攻击受困于极高的模型查询复杂度，易被反攻击监视器捕获。同时，如何消除冗余模型查询鲜有探索。本文中，我们提出一种查询高效方法 BufferSearch，以最少查询请求数有效攻击通用智能 NLP 系统。总体上，BufferSearch 利用历史信息并进行统计检验，以避免频繁引发模型查询。在数值上，我们在多种基准文本分类实验中证明了 BufferSearch 的有效性：取得具竞争力的攻击性能，同时显著减少查询数量。此外，在受限查询预算内，BufferSearch 表现优于竞争对手数倍。我们的工作为未来 NLP 对抗攻击中查询效率的研究建立了强基准。
引用
@article{arxiv.2310.09652,
title = {BufferSearch: Generating Black-Box Adversarial Texts With Lower Queries},
author = {Wenjie Lv and Zhen Wang and Yitao Zheng and Zhehua Zhong and Qi Xuan and Tianyi Chen},
journal= {arXiv preprint arXiv:2310.09652},
year = {2023}
}