关于使用LLM进行进攻性安全的伦理问题
密码学与安全
2025-06-11 v1
摘要
大语言模型（LLMs）在过去几年中迅速发展，目前正在评估其在进攻性网络安全领域的效能。虽然初步探索展示了LLMs增强安全研究的潜力，但也引发了关于进攻性安全工具双重使用的关键伦理担忧。本文分析了一组利用LLMs进行进攻性安全的论文，重点关注其工作中如何表达和论证伦理考量。目标是评估进攻性安全研究中AI文化在伦理沟通方面的表现，突出趋势、最佳实践和当前讨论的空白。我们提供了关于学术界的见解，了解其在创新与伦理责任之间的微妙平衡。特别地，我们的结果显示，在15篇被审查的原型中，有13篇（86.6%）提及了伦理考量，因此意识到其研究潜在的双重使用。研究的主要动机是允许更广泛地访问渗透测试以及为防御AI引导的攻击者做好准备。
引用
@article{arxiv.2506.08693,
title = {On the Ethics of Using LLMs for Offensive Security},
author = {Andreas Happe and Jürgen Cito},
journal= {arXiv preprint arXiv:2506.08693},
year = {2025}
}