利用集成树缓解恶意 URL 检测器中的标签翻转攻击
密码学与安全
2024-03-06 v1 人工智能
计算机与社会
机器学习
网络与互联网体系结构
摘要
恶意 URL 为包括交通、医疗、能源和银行业在内的各个行业提供了对抗性机会，这可能对业务运营造成损害。因此，检测这些 URL 至关重要；然而，当前的机器学习 (ML) 模型容易受到后门攻击。这些攻击涉及操纵一小部分训练数据标签，例如标签翻转 (LF)，即将良性标签更改为恶意标签，反之亦然。这种操纵导致误分类并引发不正确的模型行为。因此，将防御机制集成到 ML 模型的架构中成为抵御潜在攻击的必要考虑因素。本研究的重点是在使用集成树进行 URL 检测的背景下的后门攻击。通过阐明此类攻击的动机，强调攻击者的角色，并强调有效防御策略的关键重要性，本文有助于在网络安全领域的 ML 范畴内加强 ML 模型以抵御对抗性威胁的持续努力。我们提出了一种创新的警报系统，用于检测受污染标签的存在，以及一种旨在揭示原始类标签的防御机制，以减轻针对集成树分类器的后门攻击。我们使用 Alexa 和钓鱼网站 URL 数据集进行了案例研究，表明可以使用我们提出的防御机制解决 LF 攻击。我们的实验结果证明，LF 攻击在 2-5% 的扰动范围内实现了 50-65% 的攻击成功率 (ASR)，而这种创新的防御方法成功检测受污染标签的准确率高达 100%。
引用
@article{arxiv.2403.02995,
title = {Mitigating Label Flipping Attacks in Malicious URL Detectors Using Ensemble Trees},
author = {Ehsan Nowroozi and Nada Jadalla and Samaneh Ghelichkhani and Alireza Jolfaei},
journal= {arXiv preprint arXiv:2403.02995},
year = {2024}
}