评估生成式音乐的成员推理攻击有效性

生成式 AI 系统正在快速改进，现在能够在包括图像、文本和音频在内的多种模态中产生可信的输出。然而，这种快速发展促使人们更加审视用户隐私和训练中使用受版权保护作品的问题。最近针对机器学习模型的一种称为成员推理的攻击正处于这两个问题的交汇点。该攻击以一组记录和一个训练好的模型作为输入，并试图识别这些记录中哪些可能被用于训练该模型。一方面，这种攻击可用于识别用于训练模型的用户数据，这可能侵犯他们的隐私，特别是在基于医疗数据训练的模型等敏感应用中。另一方面，权利持有人可利用此攻击作为证据，证明某公司未经许可使用其作品来训练模型。值得注意的是，似乎还没有工作研究过成员推理攻击（MIA）对生成式音乐的影响。鉴于音乐产业价值数十亿美元，且艺术家如果能确定其作品是否被未经许可使用将获益匪浅，我们认为这是一个亟待研究的问题。因此，在这项工作中，我们开始对 MIA 在生成式音乐上的有效性进行初步研究。我们研究了几种现有攻击对 MuseGAN 这一流行且有影响力的生成式音乐模型的影响。与之前关于生成式音频 MIA 的工作类似，我们的研究结果表明，音乐数据对已知的成员推理技术具有相当强的抵抗力。