合成物理后门数据集：利用深度生成模型的自动化框架
密码学与安全
2024-03-18 v3
摘要
后门攻击作为对深度神经网络完整性的一种新兴威胁，因其能够隐秘地破坏深度学习系统而受到广泛关注。尽管许多后门攻击发生在数字领域，但它们在现实世界预测系统中的实际实现仍然有限，且易受物理世界中的干扰。因此，这一局限性催生了物理后门攻击的发展，其中触发对象表现为现实世界中的物理实体。然而，创建训练或评估物理后门模型所需的数据集是一项艰巨的任务，限制了后门研究人员和从业者对这类物理攻击场景的研究。本文提出了一种方法，使后门研究人员能够基于生成建模的进展轻松创建恶意的物理后门数据集。具体而言，该方法包括3个自动模块：建议合适的物理触发器、生成中毒候选样本（通过合成新样本或编辑现有干净样本），最后筛选出最合理的样本。因此，它有效缓解了创建物理后门数据集所感知的复杂性，将其从一项艰巨任务转变为可实现的目标。大量实验结果表明，通过我们的“方法”创建的数据集使攻击者能够在真实物理世界数据上实现令人印象深刻的攻击成功率，并且与以往的物理后门攻击研究表现出相似的性质。本文为研究人员在实验室范围内研究物理后门提供了有价值的工具包。
引用
@article{arxiv.2312.03419,
title = {Synthesizing Physical Backdoor Datasets: An Automated Framework Leveraging Deep Generative Models},
author = {Sze Jue Yang and Chinh D. La and Quang H. Nguyen and Kok-Seng Wong and Anh Tuan Tran and Chee Seng Chan and Khoa D. Doan},
journal= {arXiv preprint arXiv:2312.03419},
year = {2024}
}