在用机器学习模型的模型监控与鲁棒性：利用总体稳定性指数量化数据分布偏移
机器学习
2023-02-03 v1
摘要
安全至上。满足并维持人工智能（AI）和机器学习（ML）模型鲁棒性的工业安全标准，需要持续监控故障与性能下降。深度学习模型已广泛应用于工业场景（如计算机视觉），但其部署到产品后性能易受环境变化（如噪声）影响的特性现已广为人知。一大挑战在于检测发生的数据分布偏移，并比较以下两者：{\bf (i)} AI与ML模型的开发阶段（即训练/验证/测试）与 {\bf (ii)} 产品上的部署阶段（即即便已通过“测试”后处于环境中）。我们聚焦于一个与自动驾驶相关的计算机视觉实例，旨在检测因图像加入噪声而产生的偏移。我们使用总体稳定性指数（PSI）作为偏移存在性与强度的度量，并给出了实证实验结果，显示出PSI的良好潜力。我们进一步讨论了模型监控与鲁棒性中需\emph{同时}分析的多个方面，以满足工业安全标准。我们提出需要对需进行鲁棒性监控的问题类别与实例进行\emph{分类}的需求与研究方向，并从\emph{实用}角度给出未来工作的挑战与指引。
引用
@article{arxiv.2302.00775,
title = {Model Monitoring and Robustness of In-Use Machine Learning Models: Quantifying Data Distribution Shifts Using Population Stability Index},
author = {Aria Khademi and Michael Hopka and Devesh Upadhyay},
journal= {arXiv preprint arXiv:2302.00775},
year = {2023}
}