探究对抗样本：单像素攻击的模式

黑盒深度学习的失效案例（如对抗样本）可能在医疗健康领域造成严重后果。然而此类失效多在真实世界图像与标定攻击的背景下研究。为揭开对抗样本之谜，需设计严谨的研究。遗憾的是，医学图像的复杂性阻碍了直接基于医学图像的研究设计。我们假设对抗样本可能源于深度网络将图像空间到低维生成流形的错误映射。为验证该假设，我们将一个复杂的医学问题——即手术器械位姿估计——简化至其最简形式。解析决策边界与跨多图像维度的单像素攻击穷举搜索，使我们能在图像空间定位频繁成功单像素攻击的区域。