提升机器人任务中联合人类-AI推理的置信度方法
人机交互
2025-08-06 v1 机器人学
摘要
联合人类-AI推理具有巨大的潜力，可提高人类监督机器人任务中的结果。当前的任务通常处于AI辅助环境中，人类操作员基于AI建议做出最终推理决定。然而，由于人类在何时接受或拒绝AI建议方面的判断失误，互补性很少实现。我们探讨了基于置信度的联合人类-AI推理。通过在代表性的机器人遥控任务中进行用户研究（N=100），具体研究机器人控制延迟的推理，我们展示了：a)联合推理准确率更高，其程度受AI代理置信度校准的调节；b)人类会根据AI建议改变自己的推理，改变程度和方向也受AI置信度校准的调节。有趣的是，我们的结果表明，将 poorly-calibrated AI-DSS 与人类组合反而会损害性能，这重新强调了需要具有良好元认知灵敏度的AI决策支持系统。到我们知识之最，我们的研究是首次在模拟机器人遥控任务中应用基于最大置信度的启发式方法进行联合人类-AI推理。
引用
@article{arxiv.2508.03293,
title = {Enhancing Joint Human-AI Inference in Robot Missions: A Confidence-Based Approach},
author = {Duc-An Nguyen and Clara Colombatto and Steve Fleming and Ingmar Posner and Nick Hawes and Raunak Bhattacharyya},
journal= {arXiv preprint arXiv:2508.03293},
year = {2025}
}