基于梯度去偏的非定向图结构攻击中合理预算分配研究
机器学习
2023-04-04 v1 密码学与安全
摘要
在分类相关任务中使用交叉熵损失函数已成为一种认知惯性。在针对图结构的非定向攻击中，由攻击目标导出的梯度是攻击者评估扰动方案的依据。先前方法在攻击节点级分类模型时使用负交叉熵损失作为攻击目标。然而，交叉熵函数用于构造非定向攻击目标的适用性在以往工作中尚未被讨论。本文从预算分配的角度论证了先前不合理的攻击目标。我们从理论和实验上证明，负交叉熵倾向于从标注类别置信度较低的节点产生更显著的梯度，即使这些节点的预测类别已被误导。为释放这些低效的攻击预算，我们提出了一种简单的非定向图结构攻击模型，其基于一种新颖的攻击目标，该目标在图结构上生成不受节点置信度影响的无权重梯度。通过在灰盒投毒攻击场景中进行实验，我们证明了合理的预算分配能在不引入任何额外超参数的情况下显著提升基于梯度的边扰动的有效性。
引用
@article{arxiv.2304.00010,
title = {Towards Reasonable Budget Allocation in Untargeted Graph Structure Attacks via Gradient Debias},
author = {Zihan Liu and Yun Luo and Lirong Wu and Zicheng Liu and Stan Z. Li},
journal= {arXiv preprint arXiv:2304.00010},
year = {2023}
}