利用类概率进行黑盒句子级攻击

句子级攻击构造与正确分类句子同义但被文本分类器错误分类的对抗句子。在黑盒设置下，分类器只能通过其对查询输入的反馈来访问，这种反馈主要以类概率的形式提供。尽管利用类概率可以产生更强的攻击，但由于将其用于句子级攻击的挑战，现有攻击要么不使用任何反馈，要么仅使用类标签。克服这些挑战，我们开发了一种新颖的算法，利用类概率进行黑盒句子级攻击，研究了使用类概率对攻击成功的影响，并探讨了黑盒句子级攻击使用类概率是否值得或实用。我们在各种分类器和基准数据集上对我们的攻击与基线进行了广泛评估。