基于鞅的诊断运行时监控
机器人学
2024-08-01 v1 机器学习
摘要
部署在安全关键机器人环境中的机器学习系统必须对分布偏移具有鲁棒性。然而，系统设计者必须理解分布偏移的原因，以便实施适当的干预或缓解策略并防止系统故障。在本文中，我们提出了一种新颖的框架，通过同时部署多个随机鞅来以流式方式诊断分布偏移。我们证明，对分布偏移潜在原因的了解可以在部署系统的生命周期中引导适当的干预。我们的实验框架可以轻松适应不同类型的分布偏移、模型和数据集。我们发现，我们的方法在诊断分布偏移的速度、准确性和灵活性方面优于现有工作，并在模拟和实际硬件环境中验证了我们模型的有效性。
引用
@article{arxiv.2407.21748,
title = {Diagnostic Runtime Monitoring with Martingales},
author = {Ali Hindy and Rachel Luo and Somrita Banerjee and Jonathan Kuck and Edward Schmerling and Marco Pavone},
journal= {arXiv preprint arXiv:2407.21748},
year = {2024}
}