面向机器学习组件的运行时安全监控学习
机器学习
2024-06-25 v1 人工智能
计算机视觉与模式识别
摘要
对于作为自主系统 (AS) 关键任务组成部分的机器学习组件，必须在部署后发生变化（如系统运行环境变化）时维持模型保证。关键在于能够在运行时监控模型性能（因变化而变）是否对系统构成安全风险。当运行时无法获得真实标签，这一问题尤为困难。本文提出一种通过降级数据集和机器学习创建安全监控器的流程。创建的安全监控器部署在 AS 中，与 ML 组件并行运行，预测模型输出是否伴随安全风险。我们通过使用公开可用的速度标志数据集进行初始实验，展示了该方法的可行性。
引用
@article{arxiv.2406.16220,
title = {Learning Run-time Safety Monitors for Machine Learning Components},
author = {Ozan Vardal and Richard Hawkins and Colin Paterson and Chiara Picardi and Daniel Omeiza and Lars Kunze and Ibrahim Habli},
journal= {arXiv preprint arXiv:2406.16220},
year = {2024}
}