超越推荐者：AI辅助决策中不同AI角色效果的探索性研究
人机交互
2024-03-05 v1 人工智能
摘要
人工智能（AI）越来越多地被用于各种决策任务，通常作为推荐者，提供AI认为正确的建议。然而，最近的研究表明，这可能会削弱人类的分析性思维，并导致人类对AI的不当依赖，损害人-AI团队的协同作用。相比之下，群体决策中的人类顾问扮演着多种角色，例如分析备选方案或批评决策者以鼓励其批判性思维。这种角色的多样性尚未在AI辅助中得到实证探索。在本文中，我们研究了三种AI角色：推荐者、分析者和魔鬼代言人，并评估了它们在两种AI性能水平下的效果。我们的结果显示每个角色在任务绩效、依赖适当性和用户体验方面具有不同的优势和局限性。值得注意的是，推荐者角色并不总是最有效的，特别是当AI性能水平较低时，分析者角色可能更可取。这些见解为设计根据不同情况具有自适应功能角色的AI助手提供了有价值的启示。
引用
@article{arxiv.2403.01791,
title = {Beyond Recommender: An Exploratory Study of the Effects of Different AI Roles in AI-Assisted Decision Making},
author = {Shuai Ma and Chenyi Zhang and Xinru Wang and Xiaojuan Ma and Ming Yin},
journal= {arXiv preprint arXiv:2403.01791},
year = {2024}
}