AutoDetect：基于自编码器的军事域目标检测中毒攻击检测方法设计

中毒攻击正日益威胁到军事领域人工智能系统的安全性和鲁棒性。广泛使用的开源数据集和预训练模型加剧了这一风险。尽管存在严重威胁，但针对目标检测系统中毒攻击的应用与检测研究仍有限。这在军事领域尤为突出，因攻击可能造成严重后果。本文研究了中毒攻击对军事目标检测器的实际影响，以及最佳检测方法。为支持此研究，我们创建了一个包含军事车辆的小型定制数据集：MilCivVeh。通过实现改进版BadDet攻击（基于补丁的中毒攻击），探讨了军事目标检测器的中毒脆弱性。我们发现虽然可实现积极的攻击成功率，但需大量数据被中毒——这引发对其实际适用性的质疑。为解决检测挑战，我们测试了针对性中毒检测方法和来自视觉工业检查领域的异常检测方法。由于研究表明这两类方法都有不足，本文提出了自己的补丁检测方法：AutoDetect，这是一种简单、快速且轻量级的基于自编码器的方法。该方法在使用图像切片重建误差分离干净样本和中毒样本方面表现出色，超越了现有方法，同时在时间和内存方面更高效。我们呼吁，军事领域大规模、代表性数据集的可用性是进一步评估中毒攻击风险和补丁检测机会的前提条件。