TABOR：一种高精度检测与还原AI系统中木马后门的方法
密码学与安全
2019-08-12 v2 人工智能
摘要
木马后门是一种通常植入深度神经网络中的隐藏模式。仅当输入数据样本带有特定触发器时，它才被激活，从而迫使受感染模型异常行为。因此，给定深度神经网络模型与干净输入样本，检测并确定木马后门的存在极具挑战性。近来，研究者设计开发了若干开创性方案以应对这一严峻问题，所提技术展现出在木马检测上的巨大潜力。然而，我们表明现有这些技术均未彻底解决问题。一方面，它们大多基于不现实假设（如假定可获得受污染训练数据库）。另一方面，所提技术无法准确检测木马后门存在，亦无法还原高保真木马后门图像，尤其在木马相关触发器大小、形状与位置多变时。本工作中，我们提出一种新的木马检测技术TABOR。从概念上，它将木马检测任务形式化为非凸优化问题，而将木马后门检测作为通过该目标函数求解优化之任务。不同于同样将木马检测建模为优化问题的现有技术，TABOR设计了一种新的目标函数——在可解释AI技术与启发式方法指导下——可引导优化更有效地识别木马后门。此外，TABOR定义了一种新度量以衡量所识别木马后门的质量。利用异常检测方法，我们表明该新度量能更好地助TABOR识别受感染模型中人为注入的触发器并滤除误报……
引用
@article{arxiv.1908.01763,
title = {TABOR: A Highly Accurate Approach to Inspecting and Restoring Trojan Backdoors in AI Systems},
author = {Wenbo Guo and Lun Wang and Xinyu Xing and Min Du and Dawn Song},
journal= {arXiv preprint arXiv:1908.01763},
year = {2019}
}