探索 AI 驱动工具在数字取证中的鲁棒性：一项初步研究
计算机视觉与模式识别
2024-12-03 v1
摘要
如今，许多工具用于协助数据提取和数据分析等取证任务。特别是，有些工具利用人工智能 (AI) 自动将待检查的数据标记为特定类别 (\ie, 精神药物、武器、裸露)。然而，这引发了对所用 AI 算法针对对抗性攻击鲁棒性的严重关切。的确，某些人可能需要隐藏特定数据，以便 AI 基于的数字取证工具不识别其为有害/禁止内容，并将其标记为可疑内容供分析师查看。这可以被视为一种反取证攻击场景。为此，我们分析了两类最重要的用于数据分类的取证工具：一种是由 Magnet Axiom 使用的 Magnet AI，另一种是由 X-Ways Forensics 使用的 Excire Photo AI。我们对约 200 张图片进行了初步测试，另外 100 张图片分别在 3 个聊天中用于测试色情、少儿裸露、毒品和武器，以了解这些工具如何对其进行标记。此外，我们还加载了一些深度伪造图像 (即由 AI 生成的冒充真实图像)，以了解它们是否会被归类为原始图像相同的类别。通过我们的初步研究，我们发现 AI 算法不够鲁棒，这与我们的预期一致，因为这些主题仍是开放的研究问题。例如，一些性暗示图像未被标记为裸露，一些深度伪造图像被标记为相同的真实人物，而肉眼却能清晰地看到裸露图像或辨别出深度伪造图像的差异。基于这些结果及其他前沿工作，我们提供了一些建议，以改进数字取证分析工具如何利用 AI 以及其对对抗性攻击或不同于训练情景的鲁棒性。
引用
@article{arxiv.2412.01363,
title = {Exploring the Robustness of AI-Driven Tools in Digital Forensics: A Preliminary Study},
author = {Silvia Lucia Sanna and Leonardo Regano and Davide Maiorca and Giorgio Giacinto},
journal= {arXiv preprint arXiv:2412.01363},
year = {2024}
}