无限循环中的人：揭示与解释人机交互回路失效的案例分析
人机交互
2022-07-27 v1
摘要
交互式 AI 系统日益采用人在回路（human-in-the-loop）策略。这为 HCI 社群在设计此类系统时带来了新的挑战。我们在一个与产业伙伴合作的案例研究中揭示并探讨了其中部分挑战，并开发了一个用于偏好引导 3D 模型处理的人在回路系统原型。两名 3D 艺术家在其日常工作中使用了该系统三个月。我们发现人机回路常常无法收敛到满意结果，并设计了一项实验室研究（N=20）进一步调查。我们通过人类判断理论的视角分析交互数据与用户反馈，以两个关键见解解释观察到的人在回路失效：1）基于偏好选择的优化缺乏处理不一致与矛盾人类判断的机制；2）机器输出反过来通过启发式偏差和损失厌恶影响未来的用户输入。为缓解这些问题，我们提出了描述性 UI 设计准则。我们的案例研究提请关注人在回路系统中具有挑战性且与实际相关的缺陷，这些在设计人在回路系统时需加以考虑。
引用
@article{arxiv.2207.12761,
title = {The Human in the Infinite Loop: A Case Study on Revealing and Explaining Human-AI Interaction Loop Failures},
author = {Changkun Ou and Daniel Buschek and Sven Mayer and Andreas Butz},
journal= {arXiv preprint arXiv:2207.12761},
year = {2022}
}
备注
To appear in Mensch und Computer 2022, September 2022, Darmstadt, Germany. ACM, New York, NY, USA, 16 pages