工业界机器学习安全：一项定量调查

尽管关于机器学习安全的学术工作浩如烟海，但对于现实世界中针对机器学习系统的攻击却知之甚少。在本文中，我们报告了一项针对 139 名工业从业者的定量研究。我们分析了攻击的发生与担忧情况，并评估了关于影响威胁感知与暴露程度因素的统计假设。我们的结果揭示了针对已部署机器学习的真实世界攻击。在组织层面，虽然我们在样本中未发现威胁暴露的预测因子，但实施防御的数量取决于所受威胁暴露或成为攻击目标预期可能性。我们还详细分析了从业者关于各类机器学习攻击相关性答复，揭示了诸如不可靠决策、业务信息泄露以及向模型中引入偏置等复杂担忧。最后，我们发现，在个人层面，先前关于机器学习安全的知识会影响威胁感知。我们的工作为更多关于实践中对抗性机器学习的研究铺平了道路，同时也为监管与审计提供了见解。