在线质心异常检测的安全性分析

安全问题在众多机器学习应用中至关重要，尤其是在处理人类活动而非自然现象的场景中（例如，信息排序、垃圾邮件检测、恶意软件检测等）。可以预见，在这种情况下，学习算法将不得不应对旨在干扰决策的操纵数据。尽管先前的一些工作探讨了监督学习背景下对恶意数据的处理，但对于异常检测方法在此类场景中的行为知之甚少。本文分析了一种特定方法——在线质心异常检测——在存在对抗性噪声时的性能。我们的分析涉及以下安全相关问题：学习和攻击过程的规范化、最优攻击的推导、其效率及约束条件的分析。我们推导了在不同条件下针对质心异常的投毒攻击有效性的界限：有界和无界的流量百分比，以及有界的假阳性率。我们的界限表明，虽然在无约束情况下可以有效地实施投毒攻击，但如果适当使用外部约束，则可以使攻击变得任意困难（攻击者收益的严格上限）。我们在真实HTTP和漏洞利用流量上进行的实验评估证实了我们理论界限的紧致性以及保护机制的实用性。