人类中心系统中未知错误检测
人机交互
2024-07-30 v1
摘要
人工智能驱动的系统正日益部署于涉及人类参与者的实际安全关键场景中。必须确保此类系统的安全，并在造成对人类参与者伤害之前阻止系统出现错误的扩散。我们提出一种无需对错误特征进行任何知识即可检测人类中心系统中未知错误的模型无关方法。我们的方法采用动力学诱导的混合循环神经网络（DiH-RNN）从操作数据中构建基于物理的模型，结合共轨推断来评估由物理法则违规导致的模型错误，从而在操作数据分布发生不安全变化之前实现早期未知错误检测。我们在多个真实安全关键系统上评估了该框架，表明该技术在检测未知错误方面优于现有的领先技术。
引用
@article{arxiv.2407.19569,
title = {Detection of Unknown Errors in Human-Centered Systems},
author = {Aranyak Maity and Ayan Banerjee and Sandeep Gupta},
journal= {arXiv preprint arXiv:2407.19569},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2309.02603