confronting the reproducibility crisis:面向网络安全 AI 的挑战案例研究
机器学习
2024-12-17 v2 人工智能
密码学与安全
摘要
在快速发展的网络安全领域,确保 AI 驱动研究的可重复性对于维护安全系统的可靠性和完整性至关重要。本文聚焦于网络安全 AI 领域对抗鲁棒性——即致力于防御深度神经网络免受恶意扰动的关键领域——所面临的可重复性危机。通过详细案例研究,我们尝试使用 VeriGauge 工具链验证先前工作中关于认证鲁棒性的结果,揭示了由于软件和硬件不兼容、版本冲突以及过时等问题带来的重大挑战。我们的发现强调,为确保在关键网络安全应用中部署的 AI 模型可重复性,迫切需要标准化方法、容器化和全面文档。通过应对这些可重复性挑战,我们旨在为更广泛的网络安全 AI 研究社区作出贡献,以增强对抗高级持久性威胁、提升网络和物联网安全以及保护关键基础设施的努力。本工作倡导研究社区致力于优先考虑可重复性,以强化未来网络安全进步的基础。
引用
@article{arxiv.2405.18753,
title = {Confronting the Reproducibility Crisis: A Case Study of Challenges in Cybersecurity AI},
author = {Richard H. Moulton and Gary A. McCully and John D. Hastings},
journal= {arXiv preprint arXiv:2405.18753},
year = {2024}
}
备注
8 pages, 0 figures, 2 tables, updated to incorporate feedback and improvements