面向 LLM 时代的数字取证与事件响应管道是否已准备好应对基于文本的威胁？
密码学与安全
2024-10-23 v1 计算与语言
摘要
在生成式 AI 时代，神经文本生成器 (NTG) 的广泛采用为数字取证与事件响应 (DFIR) 领域的网络安全带来了新的挑战，特别是针对 spearphishing 和 disinformation 派动等高级攻击的检测与归因。随着 NTG 的演化，区分人类与 NTG 作者文本的任务变得至关重要且复杂。本文严格评估了针对基于文本的安全系统的 DFIR 管道，特别关注检测和归因 NTG 作者文本的挑战。通过引入一种新的人类-NTG 共同撰写文本攻击方法 CS-ACT，我们的研究发现传统 DFIR 方法面临重大漏洞，揭示了理想情景与现实条件之间的差异。我们使用 14 个多样化数据集和 43 个不同的 NTG（包括最新的 GPT-4），识别出在取证轮廓阶段尤其在归因 NTG 来源方面存在显著漏洞。我们的全面评估指出，模型的复杂程度以及 NTG 缺乏独特风格是这些漏洞的重要贡献因素。我们的发现强调了需要更精细且可适应的策略的必要性，例如 incorporating对抗学习、对 NTG 进行风格化、以及通过映射 NTG 的谱系来实施分层归因以增强来源归因。这为未来研究以及开发更具韧性的基于文本的安全系统铺平了道路。
引用
@article{arxiv.2407.17870,
title = {Is the Digital Forensics and Incident Response Pipeline Ready for Text-Based Threats in LLM Era?},
author = {Avanti Bhandarkar and Ronald Wilson and Anushka Swarup and Mengdi Zhu and Damon Woodard},
journal= {arXiv preprint arXiv:2407.17870},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication