基于有界 Levenshtein 距离的认证鲁棒性
机器学习
2025-02-21 v2 人工智能
计算与语言
摘要
文本分类器容易受到小扰动的影响，这些扰动如果被精心挑选，可以显著改变模型的输出。验证方法可以提供对此类对抗性扰动的鲁棒性认证，通过计算鲁棒准确性的可信下界来实现。然而，现有的验证方法计算成本高昂，无法实际处理 Levenshtein 距离约束。我们提出了一种首次针对卷积分类器计算其相对于 Levenshtein 距离 Lipschitz 常数的的方法。我们使用这些 Lipschitz 常数估计值训练 1-Lipschitz 分类器。这使得在单次前向传播中计算分类器的认证半径成为可能。我们的方法 LipsLev 能够在 AG-News 数据集上在距离为 1 和 2 时分别获得 38.80% 和 13.93% 的验证准确率，速度比现有方法快 4 个数量级。我们相信我们的工作可以为文本领域的更高效验证之门打开大门。
引用
@article{arxiv.2501.13676,
title = {Certified Robustness Under Bounded Levenshtein Distance},
author = {Elias Abad Rocamora and Grigorios G. Chrysos and Volkan Cevher},
journal= {arXiv preprint arXiv:2501.13676},
year = {2025}
}
备注
Accepted in ICLR 2025