安全深度学习工程：软件质量保证视角
软件工程
2018-10-11 v1 人工智能
密码学与安全
机器学习
摘要
过去几十年中，深度学习（DL）系统在智能机器、图像处理、语音处理和医学诊断等各类应用中取得了巨大成功并广受欢迎。深度神经网络是其近期成功的关键驱动力，但似乎仍是一个缺乏可解释性与理解力的神奇黑箱。这带来了许多开放的安全与安保问题，对提升质量的严谨方法论与工程实践有着巨大且迫切的需求。大量研究表明，最先进的DL系统存在缺陷与漏洞，可能导致严重损失与悲剧，尤其在应用于现实世界安全关键应用时。在本文中，我们开展大规模研究并构建了包含223篇关于深度学习质量保证、安全与解释的论文仓库。我们从软件质量保证视角，指出迈向通用安全深度学习工程的挑战与未来机遇。我们希望本工作及附带的论文仓库能为软件工程界满足安全智能应用的紧迫工业需求铺平道路。
引用
@article{arxiv.1810.04538,
title = {Secure Deep Learning Engineering: A Software Quality Assurance Perspective},
author = {Lei Ma and Felix Juefei-Xu and Minhui Xue and Qiang Hu and Sen Chen and Bo Li and Yang Liu and Jianjun Zhao and Jianxiong Yin and Simon See},
journal= {arXiv preprint arXiv:1810.04538},
year = {2018}
}