FARPLS: 辅助人类标注者偏好获取的特征增强机器人轨迹偏好标注系统
人机交互
2024-03-12 v1 人工智能
摘要
基于偏好的学习旨在将机器人任务目标与人类价值观对齐。推断人类偏好最常用的方法之一是对机器人任务轨迹进行成对比较。传统的基于比较的偏好标注系统很少支持标注者消化和识别视频中记录的复杂轨迹之间的关键差异。我们的形成性研究 (N = 12) 表明，由于部分观察，个体在偏好获取过程中可能会忽略不显著的任务特征，并建立有偏的偏好标准。此外，当给定许多对进行比较时，他们可能会经历心理疲劳，导致标注质量下降。为了缓解这些问题，我们提出了 FARPLS，一个特征增强的机器人轨迹偏好标注系统。FARPLS 突出了对人类至关重要的各种任务特征中的潜在异常点，并提取相应的视频关键帧以便于审查和比较。它还根据用户的熟悉程度、轨迹对的难度以及分歧水平动态调整标注顺序。同时，系统监控标注者的一致性并提供标注进度的反馈，以保持标注者的参与度。一项被试间研究 (N = 42，每人 105 对机器人拾取与放置轨迹) 表明，与传统界面相比，FARPLS 可以帮助用户更轻松地建立偏好标准，并注意到所呈现轨迹中更多相关细节。FARPLS 还提高了标注一致性和参与度，在不显著增加认知负荷的情况下缓解了偏好获取中的挑战。
引用
@article{arxiv.2403.06267,
title = {FARPLS: A Feature-Augmented Robot Trajectory Preference Labeling System to Assist Human Labelers' Preference Elicitation},
author = {Hanfang Lyu and Yuanchen Bai and Xin Liang and Ujaan Das and Chuhan Shi and Leiliang Gong and Yingchi Li and Mingfei Sun and Ming Ge and Xiaojuan Ma},
journal= {arXiv preprint arXiv:2403.06267},
year = {2024}
}
备注
Accepted to ACM Conference on Intelligent User Interfaces (IUI) 2024, March 18-21, 2024, Greenville, SC, USA