数据中心驾驶中用户控制的重要性——面向医疗专家
人机交互
2025-06-24 v1
摘要
随着人工智能 (AI) 越来越多地融入像医疗等高风险领域，有效地与 AI 系统协作变得至关重要。数据中心驾驶 (data-centric steering) 通过改善训练数据质量来微调预测模型，在这一过程中发挥着关键作用。然而，少有研究探讨了不同程度的用户控制如何影响医疗专家在数据中心驾驶期间的体验。我们通过对手动和自动驾驶方法进行 between-subjects、混合方法的用户研究 (包含 74 名医疗专家) 来填补这一空白。我们的发现表明，手动驾驶——即赋予对训练数据直接控制权——在保持信任和系统可理解性的同时显著提高模型性能。基于这些发现，我们提出了一种混合驾驶系统的设计原则，该系统结合手动和自动方法以增加人机协作期间的用户参与度。
引用
@article{arxiv.2506.18770,
title = {Importance of User Control in Data-Centric Steering for Healthcare Experts},
author = {Aditya Bhattacharya and Simone Stumpf and Katrien Verbert},
journal= {arXiv preprint arXiv:2506.18770},
year = {2025}
}
备注
It is a pre-print version. For the full paper, please view the actual published version