盲目涌向机器学习是否危及安全？一项调查结果
机器学习
2021-11-30 v1
摘要
机器学习（ML）正逐步进入安全关键系统（SCS）。当前的安全标准与实践并非为应对 ML 技术而设计，难以确信含 ML 组件的安全关键系统是安全的。我们的假设是：存在一种急于部署 ML 技术的倾向，却牺牲了对 ML 技术引入我们尚不能充分检测与缓解的安全问题之透彻审视。为此，我们开展了一项针对性文献调查，以确定将 ML 应用于 SCS 的研究投入，与用于评估部署 ML 组件的 SCS 安全性的投入之比。本文呈现了该调查（令人惊讶的）结果。
引用
@article{arxiv.2111.14324,
title = {Is the Rush to Machine Learning Jeopardizing Safety? Results of a Survey},
author = {Mehrnoosh Askarpour and Alan Wassyng and Mark Lawford and Richard Paige and Zinovy Diskin},
journal= {arXiv preprint arXiv:2111.14324},
year = {2021}
}