Massif：深度学习对抗攻击的交互式解释
机器学习
2020-02-18 v3 密码学与安全
机器学习
摘要
深度神经网络（DNNs）正日益为自动驾驶汽车和医疗等高风险应用提供动力；然而，在这类应用中 DNNs 常被视为“黑盒”。近期研究还揭示 DNNs 对对抗攻击高度脆弱，引发了将其部署于现实世界的严重担忧。为克服这些缺陷，我们正在开发 Massif，一个用于解读对抗攻击的交互式工具。Massif 识别并交互式可视化 DNN 内部被对抗攻击强烈激活或抑制的神经元及其连接。Massif 提供对抗攻击对 DNN 影响的可解释高层概览，以及受影响神经元的低层详细描述。Massif 中这些紧密耦合的视图帮助人们更好地理解哪些输入特征最脆弱或对正确预测最重要。
引用
@article{arxiv.2001.07769,
title = {Massif: Interactive Interpretation of Adversarial Attacks on Deep Learning},
author = {Nilaksh Das and Haekyu Park and Zijie J. Wang and Fred Hohman and Robert Firstman and Emily Rogers and Duen Horng Chau},
journal= {arXiv preprint arXiv:2001.07769},
year = {2020}
}
备注
Appear in ACM Conference on Human Factors in Computing Systems (CHI) Late-Breaking Works 2020, 7 pages