SecureGaze：防御凝视估计的后门攻击
计算机视觉与模式识别
2025-02-28 v1
摘要
凝视估计模型在司机注意力监控和人机交互等应用中广泛使用。虽然存在许多凝视估计方法，但它们依赖于数据驱动的深度学习才能实现高性能。这种依赖常常迫使实践者从未经验证的公开数据集中收集训练数据、外包模型训练或依赖预训练模型。然而，这些做法将凝视估计模型暴露于后门攻击之下。在此类攻击中，敌方通过污染训练数据注入后门触发器，创建后门漏洞：模型在正常输入下表现正常，但在特定触发器存在时会产生操控性的凝视方向。这会损害许多基于凝视的应用的安全性，例如导致模型在跟踪司机注意力时失效。迄今为止，尚无防御能针对凝视估计模型的后门攻击。为此，我们提出SecureGaze，是首个专为保护凝视估计模型免受此类攻击而设计的解决方案。与分类模型不同，防御凝视估计模型存在独特挑战，因为其连续输出空间和全球激活的后门行为。通过识别被后门化凝视估计模型的独特特征，我们开发了一种新颖且有效的方法，用于可靠地逆向工程触发器函数，以实现后门检测。广泛的在数字和物理世界中的评估表明，SecureGaze有效抵御了各种后门攻击，并优于从分类模型中移植的七种最先进防御方法。
引用
@article{arxiv.2502.20306,
title = {SecureGaze: Defending Gaze Estimation Against Backdoor Attacks},
author = {Lingyu Du and Yupei Liu and Jinyuan Jia and Guohao Lan},
journal= {arXiv preprint arXiv:2502.20306},
year = {2025}
}