AdvCat：面向具有类别型输入的网络安全关键应用的领域无关鲁棒性评估
密码学与安全
2022-12-29 v1 人工智能
机器学习
摘要
机器学习即服务（MLaaS）系统已大量开发用于网络安全关键应用，例如检测网络入侵与虚假新闻活动。尽管有效，其针对对抗攻击的鲁棒性仍是 MLaaS 部署的关键信任问题之一。因此我们致力于评估位于这些具有类别型输入的安全关键应用核心的机器学习模型的对抗鲁棒性。先前关于评估针对类别型输入操纵的模型鲁棒性的研究工作特定于用例且严重依赖领域知识，或需要对目标 ML 模型的白盒访问。此类限制阻碍了将鲁棒性评估作为面向各类真实世界应用的领域无关服务。我们提出了一种可证明最优且计算高效的对抗鲁棒性评估协议，适用于广泛的 ML 驱动的网络安全关键应用。我们通过针对虚假新闻检测与入侵检测问题的大量实验研究展示了该领域无关鲁棒性评估方法的使用。
引用
@article{arxiv.2212.13989,
title = {AdvCat: Domain-Agnostic Robustness Assessment for Cybersecurity-Critical Applications with Categorical Inputs},
author = {Helene Orsini and Hongyan Bao and Yujun Zhou and Xiangrui Xu and Yufei Han and Longyang Yi and Wei Wang and Xin Gao and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2212.13989},
year = {2022}
}
备注
IEEE BigData 2022