CloudFort：通过空间分区和集成预测提升 3D 点云分类对后门攻击的鲁棒性
计算机视觉与模式识别
2024-04-23 v1
摘要
3D 点云数据在自动驾驶、机器人和虚拟现实等各种应用中的广泛采用，推动了目标识别和场景理解方面的重大进展。然而，这种进步伴随着新的安全挑战，尤其是后门攻击。这些攻击涉及将恶意信息插入机器学习模型的训练数据，可能损害模型的行为。本文提出了 CloudFort，一种新型防御机制，旨在增强 3D 点云分类器对后门攻击的鲁棒性。CloudFort 利用空间分区和集成预测技术有效缓解后门触发器的影响，同时保持模型在干净数据上的性能。通过大量实验评估 CloudFort 的有效性，证明其对 Point Cloud Backdoor Attack (PCBA) 具有强大的抗性。我们的结果表明，CloudFort 在不损害良性样本准确性的情况下显著提升了 3D 点云分类模型的安全性。此外，我们探讨了 CloudFort 的局限性，并讨论了面向 3D 点云安全领域的潜在研究方向。该提出的防御机制代表了确保基于点云系统在现实应用中可信度和可靠性的重要一步。
引用
@article{arxiv.2404.14042,
title = {CloudFort: Enhancing Robustness of 3D Point Cloud Classification Against Backdoor Attacks via Spatial Partitioning and Ensemble Prediction},
author = {Wenhao Lan and Yijun Yang and Haihua Shen and Shan Li},
journal= {arXiv preprint arXiv:2404.14042},
year = {2024}
}