通过强化学习将系统级安全要求纳入感知模型
机器人学
2024-12-05 v1 机器学习
摘要
自动化系统中的感知组件通常独立于下游决策和控制组件进行开发和优化，依赖已建立的性能指标，如准确率、精确率和召回率。传统的损失函数，如交叉熵损失和负对数似然损失，关注减少误分类错误，但未考虑这些错误对系统级安全的影响，忽略了这些错误导致的系统级故障的不同严重程度。为解决这一局限性，我们提出了一种新的训练范式，通过纳入对系统级安全目标的理解来增强感知组件。我们方法的核心是将使用规则书形式正式指定的系统级安全要求转化为安全得分，并将这些得分纳入强化学习框架的奖励函数，以实现具有系统级安全目标的感知模型微调。仿真结果表明，使用该方法训练的模型在系统级安全方面优于基线感知模型。
引用
@article{arxiv.2412.02951,
title = {Incorporating System-level Safety Requirements in Perception Models via Reinforcement Learning},
author = {Weisi Fan and Jesse Lane and Qisai Liu and Soumik Sarkar and Tichakorn Wongpiromsarn},
journal= {arXiv preprint arXiv:2412.02951},
year = {2024}
}