一种针对聚类投毒的黑盒对抗攻击

聚类算法作为决策制定和合理自动化流程中的工具发挥着基础性作用。由于这类应用的广泛使用，对该类算法在对抗噪声下的鲁棒性分析已变得势在必行。然而，据我们所知，目前仅有少数工作探讨了这一问题。为填补这一空白，本文提出一种黑盒对抗攻击，用于构造对抗样本以测试聚类算法的鲁棒性。我们将该问题表述为一个约束最小化程序，其结构具有通用性，且攻击者可依据自身能力约束进行定制。我们不假设关于受害聚类算法内部结构的任何信息，仅允许攻击者将其作为服务进行查询。在缺乏任何导数信息的情况下，我们采用受抽象遗传算法（Abstract Genetic Algorithm, AGA）启发的自定义方法执行优化。在实验部分，我们展示了不同单一及集成聚类算法在多种场景下对我们所构造对抗样本的敏感性。此外，我们将本文算法与一种最先进的方法进行比较，表明我们能够达到甚至超越其性能。最后，为凸显所生成噪声的通用性，我们展示了我们的攻击甚至可迁移至诸如 SVM、随机森林和神经网络等监督算法。