煮不死的青蛙：基于在线训练自编码器的异常检测器对对抗性投毒攻击的鲁棒性

近年来，文献中已展示多种基于神经网络的有效方法，用于工业控制系统（ICSs）中的异常与网络攻击检测。鉴于其成功部署与广泛使用，有必要研究针对此类检测方法的对抗攻击，以更好地保护依赖它们的系统。关于图像与恶意软件分类的对抗攻击的广泛研究，与大多数ICS攻击检测系统所属的物理系统状态预测领域几乎无关。此外，此类检测系统通常使用从受监控系统收集的新数据进行再训练，因此对抗性数据投毒的威胁十分显著，然而该威胁尚未被研究界所解决。本文首次针对在线训练的基于自编码器的攻击检测器上的投毒攻击展开研究。我们提出两种生成投毒样本的算法：一种基于插值，另一种基于反向梯度优化，并在合成与真实世界ICS数据上进行了评估。我们证明所提算法能够生成使目标攻击被自编码器检测器漏检的投毒样本，但投毒检测器的能力仅限于一小类攻击类型与幅度。当将投毒生成算法应用于流行的SWaT数据集时，我们表明在物理系统状态数据上训练的自编码器检测器对该数据集中全部十种相关攻击均具有投毒鲁棒性。该发现表明，网络物理领域中使用的基于神经网络的攻击检测器比其他问题领域（如恶意软件检测与图像处理）对投毒更具鲁棒性。