以敌御善：利用对抗攻击保护个人属性隐私
人工智能
2023-10-04 v1
摘要
社交媒体已彻底重塑世界，使数十亿人能够参与此类交互环境，便捷地创建并与公众分享内容。其中，文本数据（如推文、博客）维系着基本而重要的社交活动，并生成了丰富的面向用户的信息源。尽管那些显式的敏感用户数据（如凭据）已通过各种方式得到显著保护，但由于推断攻击导致的个人私有属性（如年龄、性别、位置）泄露却难以避免，尤其在强大的自然语言处理（NLP）技术已被有效部署以从隐式文本数据自动推断属性的情况下。这使用户的属性隐私面临风险。为应对此挑战，在本文中，我们利用机器学习对抗攻击的固有脆弱性，设计了一种新颖的用于社会善举（Social Good）的文本空间对抗攻击，称为 Adv4SG。换言之，我们将保护个人属性隐私的问题表述为针对社交媒体文本数据的对抗攻击构建问题，以防御基于 NLP 的属性推断攻击。更具体地，Adv4SG 在给定约束下执行一系列词扰动，使得被探测的属性无法被正确识别。与先前工作不同，我们通过考虑社交媒体属性并引入高性价比机制，在黑盒设定下加速文本数据的属性混淆，从而推进 Adv4SG。在真实世界社交媒体数据集上的大量实验表明，我们的方法能在不同属性设定下以更少的计算成本有效降低推断准确率，这大幅缓解了推断攻击的影响，从而在用户属性隐私保护中取得高性能。
引用
@article{arxiv.2306.02488,
title = {Adversary for Social Good: Leveraging Adversarial Attacks to Protect Personal Attribute Privacy},
author = {Xiaoting Li and Lingwei Chen and Dinghao Wu},
journal= {arXiv preprint arXiv:2306.02488},
year = {2023}
}