SafeML：基于统计差异度量的机器学习分类器安全监控
机器学习
2020-05-28 v1 密码学与安全
机器学习
摘要
随着数据驱动应用进入安全关键应用领域，确保机器学习（ML）的安全性和可解释性成为一个日益相关的主题，这些传统上奉行高安全标准的领域并不满足于对原本不可访问的黑盒系统仅采取测试手段。尤其是安全与安保之间的交互是一项核心挑战，因为安全违规可能导致安保受损。本文在适用于ML系统运行期间的单一保护概念内同时应对安全与安保的贡献，是基于经验累积分布函数（ECDF）的距离度量对数据驱动系统的行为及其运行上下文进行主动监控。我们研究抽象数据集（XOR、Spiral、Circle）以及用于模拟网络流量入侵检测的当前安全特定数据集（CICIDS2017），使用包括Kolmogorov-Smirnov、Kuiper、Anderson-Darling、Wasserstein和混合Wasserstein-Anderson-Darling度量在内的分布偏移检测度量。我们的初步发现表明，该方法可为检测ML组件的应用上下文在安全-安保方面是否有效提供基础。我们的初步代码与结果可在 https://github.com/ISorokos/SafeML 获取。
引用
@article{arxiv.2005.13166,
title = {SafeML: Safety Monitoring of Machine Learning Classifiers through Statistical Difference Measure},
author = {Koorosh Aslansefat and Ioannis Sorokos and Declan Whiting and Ramin Tavakoli Kolagari and Yiannis Papadopoulos},
journal= {arXiv preprint arXiv:2005.13166},
year = {2020}
}