羊皮下的狼——针对深度学习应用的下采样攻击
密码学与安全
2017-12-22 v1 计算机视觉与模式识别
机器学习
摘要
本文探讨常见深度学习应用中数据处理流水线所埋藏的安全风险。深度学习模型通常为其训练与输入数据假定固定尺度。为使深度学习应用能处理广泛的输入数据，主流框架如Caffe、TensorFlow和Torch均提供数据缩放函数，将输入缩放至模型所用维度。图像缩放算法旨在缩放后保留图像的视觉特征。然而，常见图像缩放算法并非设计用于应对人为精心构造的图像。攻击者可令缩放输出与相应输入图像截然不同。本文提出一种针对深度学习应用中数据缩放过程的下采样攻击。通过精心构造与深度学习模型所用维度不匹配的输入数据，攻击者可制造欺骗效果。深度学习应用实际消费的数据与呈现给用户的数据并不相同。这种视觉不一致性使得针对深度学习应用的实用规避攻击与数据投毒攻击成为可能。本文给出针对流行基于深度学习的图像分类应用的概念验证攻击样本。为应对下采样攻击，本文亦提出多种潜在缓解策略。
引用
@article{arxiv.1712.07805,
title = {Wolf in Sheep's Clothing - The Downscaling Attack Against Deep Learning Applications},
author = {Qixue Xiao and Kang Li and Deyue Zhang and Yier Jin},
journal= {arXiv preprint arXiv:1712.07805},
year = {2017}
}