从节拍到泄露：进攻性AI如何从播放列表中推断敏感用户信息

人工智能的广泛集成催生了进攻性AI：在整个网络杀伤链中利用AI实现恶意目的。一个关键的表现是用户属性推断攻击，即AI从无害的公开数据中推断出敏感的个人身份信息。我们探讨了音乐流媒体生态系统（用户在此常规性地发布公开播放列表）如何被用于进攻性AI。为了量化这一威胁，我们开发了musicPIIrate。这个新颖的工具利用深度学习架构，同时利用独立的数据表示和嵌入在用户播放列表集合中的结构信息。我们的设计探索了基于集合的方法（例如Deep Sets）和对播放列表间关系进行建模的方法（例如图神经网络），我们也结合了这两种方法以利用两者的优势。我们的方法解决了从无序、可变长度的集合数据中提取特征的问题，从而实现了准确的PII预测。实证评估表明，musicPIIrate达到了最先进的推断精度。该工具成功推断出广泛的属性，包括：人口统计学信息（年龄、国家、性别）、习惯（饮酒、吸烟、运动）和人格特质（OCEAN分数）。musicPIIrate优于现有方法，在15个属性推断任务中的9个上击败了基线。为了应对这一漏洞，我们提出了JamShield，一个轻量级的防御框架。JamShield策略性地向账户中注入虚假播放列表，以稀释携带PII的信号。我们的分析表明，JamShield是一种有前景的防御手段，平均将推断F1分数降低了10%。这项工作为基于播放列表的PII推断提供了一个初步的进攻性AI基准，使用了利用集合和图结构数据的架构，并引入了一种显示出有希望缓解效果的防御方法。