一种混沌驱动的后门攻击检测度量
密码学与安全
2025-05-07 v1
摘要
人工智能（AI）模型在各个领域的进步和采用改变了我们与技术交互的方式。然而，必须认识到，尽管 AI 模型带来了显著的进步，它们也带来了固有的挑战，例如其易受对抗性攻击的脆弱性。当前工作提出了一种针对 AI 模型最显著的攻击向量之一——通过训练数据集的数据投毒进行的后门攻击——的新型防御机制。在该防御技术中，提出了一种将混沌理论与流形学习相结合的综合方法。制定了一种基于 Neurochaos 特征条件方差的新颖度量——精度矩阵依赖得分（PDS）。PDS 度量已被成功评估，能够在多种数据集上区分投毒样本与未投毒样本。
引用
@article{arxiv.2505.03208,
title = {A Chaos Driven Metric for Backdoor Attack Detection},
author = {Hema Karnam Surendrababu and Nithin Nagaraj},
journal= {arXiv preprint arXiv:2505.03208},
year = {2025}
}