评估自动化建议对决策的影响：领域专家能调节模型错误但主动性降低
人机交互
2021-03-30 v2
摘要
自动化决策支持可加速繁琐任务，因为用户能将注意力集中在最需要的环节。然而，一个关键担忧是用户是否过度信任或让渡自主权给自动化。在本文中，我们研究了将自动化引入临床文本标注的影响——这是一项多步骤、易出错的任务，即在医疗记录中识别临床概念（如操作），并将其映射到大型本体中的标签。我们考虑两种决策辅助形式：推荐将概念映射到的标签，以及预填充标注建议。通过实验室研究，我们发现 18 名临床医生通常能建立何时依赖自动化、何时运用自身判断的直觉。然而，当面对完全预填充的建议时，这些专家用户表现出更少的自主权：接受不恰当的提及，且在创建额外标注时主动性降低。我们的发现为系统和算法应如何设计以缓解所观察到的问题提供了参考。
引用
@article{arxiv.2103.04725,
title = {Assessing the Impact of Automated Suggestions on Decision Making: Domain Experts Mediate Model Errors but Take Less Initiative},
author = {Ariel Levy and Monica Agrawal and Arvind Satyanarayan and David Sontag},
journal= {arXiv preprint arXiv:2103.04725},
year = {2021}
}
备注
Fixed minor formatting