通过习得自然语言规则与入职培训构建高效人机协作团队

人们正依赖 AI 智能体协助完成各类任务。人类必须知道何时依赖该智能体、与之协作或忽略其建议。在本工作中，我们提出学习规则——这些规则扎根于数据区域并以自然语言描述——用以说明人类应如何与 AI 协作。我们新颖的区域发现算法在嵌入空间中将数据中的局部区域寻找为邻域，在这些邻域中先前的人类行为应被纠正。随后，每个区域通过大型语言模型以迭代且对比的方式加以描述。接着，我们在一个入职培训阶段将这些规则传授给人类。通过对目标检测与问答任务的用户研究，我们表明我们的方法能够带来更准确的人机团队。我们也分别评估了我们的区域发现与描述算法。