拓扑特性对针对顶点分类攻击的影响
机器学习
2020-03-13 v1 机器学习
摘要
如近期研究所示，顶点分类易受图拓扑与顶点属性扰动的攻击。正如其他机器学习领域，当行动后果极为严重时，对对抗操纵鲁棒性的担忧会阻碍潜在用户采用所提方法。本文考虑图的两个拓扑特征，并探究这些特征如何影响攻击者为成功所必须扰动的图量。我们表明，若训练集中包含某些顶点，则可能大幅降低攻击者所需的扰动预算。在四个引文数据集上，我们证明若训练集包含高度数顶点或能确保所有未标记节点在训练集中有邻居的顶点，则相对于Nettack投毒攻击的随机训练，攻击者的预算通常增加可观的倍数——通常为2倍或更多。即使对于特别容易的目标（仅一两次扰动后即被误分类者），性能退化也慢得多，对错误类别赋予的概率低得多。此外，我们证明当应用近期提出的防御时，这种鲁棒性要么持续存在，要么与防御方由此获得的性能提升相当。
引用
@article{arxiv.2003.05822,
title = {Topological Effects on Attacks Against Vertex Classification},
author = {Benjamin A. Miller and Mustafa Çamurcu and Alexander J. Gomez and Kevin Chan and Tina Eliassi-Rad},
journal= {arXiv preprint arXiv:2003.05822},
year = {2020}
}
备注
17 pages, 11 figures