一种面向攻击图嵌入模型的受限黑盒对抗框架
社会与信息网络
2019-12-19 v5 密码学与安全
机器学习
机器学习
摘要
随着图嵌入模型在学术界与工业界的巨大成功,图嵌入针对对抗攻击的鲁棒性不可避免地成为图学习领域的核心问题。尽管已有丰硕进展,当前多数工作以白盒方式实施攻击:它们需要访问模型预测与标签来构造其对抗损失。然而,真实系统中模型预测的不可访问性使得白盒攻击对实际图学习系统不切实际。本文以更通用灵活的意义推进当前框架——我们要求以黑盒驱动攻击各类图嵌入模型。为此,我们首要以原则性方式研究图信号处理与图嵌入模型间的理论联系,并将图嵌入模型表述为带相应图滤波器的一般图信号处理。据此,由图滤波器与特征矩阵构造出广义对抗攻击者:GF-Attack。GF-Attack不访问图嵌入中所用目标分类器的任何知识,仅以黑盒攻击方式对图滤波器实施攻击。为验证GF-Attack的泛化性,我们在四种流行图嵌入模型上构造攻击者。大量实验结果验证了我们的攻击者在若干基准数据集上的有效性。特别地,即便如单边翻转这样的微小图扰动,利用我们的攻击也能持续对不同图嵌入模型构成强力性能攻击。
引用
@article{arxiv.1908.01297,
title = {A Restricted Black-box Adversarial Framework Towards Attacking Graph Embedding Models},
author = {Heng Chang and Yu Rong and Tingyang Xu and Wenbing Huang and Honglei Zhang and Peng Cui and Wenwu Zhu and Junzhou Huang},
journal= {arXiv preprint arXiv:1908.01297},
year = {2019}
}
备注
Accepted by the AAAI 2020