机器学习安全分类法：综述与入门
机器学习
2022-03-09 v2 人工智能
摘要
机器学习（ML）算法在自动驾驶等安全关键应用中的开放世界部署，需要应对诸如可解释性、可验证性与性能局限等各类ML脆弱性。研究探索了不同途径以提升ML可靠性，包括提出新模型与训练技术以减小泛化误差、实现域适应，并检测离群样本与对抗攻击。然而， ongoing的ML研究与既有的安全原理之间仍缺乏联系。本文对提升非受控开放世界环境下ML算法可靠性的技术进行了结构化且全面的综述。基于此综述，我们提出机器学习安全分类法（Taxonomy of ML Safety），将前沿ML技术映射到关键工程安全策略。我们的ML安全分类法以面向安全的ML技术分类提供了指导，以改进ML设计与开发中的可靠性。所提分类法可作为安全检查表，协助设计者在任一给定ML系统中提升所采用安全策略的覆盖度与多样性。
引用
@article{arxiv.2106.04823,
title = {Taxonomy of Machine Learning Safety: A Survey and Primer},
author = {Sina Mohseni and Haotao Wang and Zhiding Yu and Chaowei Xiao and Zhangyang Wang and Jay Yadawa},
journal= {arXiv preprint arXiv:2106.04823},
year = {2022}
}