面向安全关键应用的人工神经网络加固——一项映射研究
计算机与社会
2019-09-09 v1
摘要
背景：在不同领域中，人工神经网络（ANN）越来越多地用于安全关键应用，在此类应用中，ANN 的错误输出可能带来灾难性后果。然而，此类神经网络的开发仍不成熟，且缺乏良好的工程实践。因此，ANN 正处于与几十年前软件相同的位置。如今，功能安全标准（如汽车领域的 ISO 26262）要求在软件创建过程中应用一系列经过验证的工程原则和方法，以提高其质量并将故障率降低到可接受的水平。目标：未来，需要为人工神经网络的开发建立这样一套经过验证的工程方法，以允许其在安全关键应用中使用。方法：本研究通过开展一项映射研究，朝着这个方向迈出了一步，旨在提取开发用于安全关键应用的 ANN 所面临的挑战，并识别在此类环境中用于 ANN 加固的方法。结果：我们提取了文献中反复报道的关于在关键环境中使用 ANN 的十项不同挑战。所有这些挑战都有相应的工程方法来解决，我们在研究中识别出 54 种可用于网络加固的方法。结论：已提出多种方法来克服在安全关键应用中使用 ANN 的具体挑战。在迈向定义最佳实践的道路上，我们设想未来的软件工程需要专注于进一步研究这些方法，并提高现有方法的成熟度和理解，目标是制定明确的指南，以正确工程化高质量的 ANN。
引用
@article{arxiv.1909.03036,
title = {Hardening of Artificial Neural Networks for Use in Safety-Critical Applications -- A Mapping Study},
author = {Rasmus Adler and Mohammed Naveed Akram and Pascal Bauer and Patrik Feth and Pascal Gerber and Andreas Jedlitschka and Lisa Jöckel and Michael Kläs and Daniel Schneider},
journal= {arXiv preprint arXiv:1909.03036},
year = {2019}
}
备注
21 pages