安全关键机器学习系统的工程与质量保证中的开放问题
计算机与社会
2018-12-10 v1 机器学习
机器学习
摘要
致命事故是阻碍使用机器学习和深度学习模型的安全关键系统（如自动驾驶车辆）被广泛接受的主要问题。此类机器学习系统需要质量保证框架，但目前尚无被广泛接受和确立的质量保证概念与技术。同时，开放问题及相关技术领域尚未被组织起来。为建立标准质量保证框架，有必要以跨学科方式可视化并组织这些开放问题，使来自众多不同技术领域的专家可深入讨论并开发解决方案。在本研究中，我们以自动驾驶车辆为例，识别、分类并探讨安全关键机器学习系统质量保证中的开放问题及其相关的行业与技术趋势。我们的结果表明，解决这些开放问题需要融合来自若干不同技术与工业领域的知识，包括汽车工业、统计学、软件工程与机器学习。
引用
@article{arxiv.1812.03057,
title = {Open Problems in Engineering and Quality Assurance of Safety Critical Machine Learning Systems},
author = {Hiroshi Kuwajima and Hirotoshi Yasuoka and Toshihiro Nakae},
journal= {arXiv preprint arXiv:1812.03057},
year = {2018}
}
备注
DISE1: Joint Workshop on Deep (or Machine) Learning for Safety-Critical Applications in Engineering