增强型业务决策系统中认知偏差的应对
人机交互
2020-09-18 v1
摘要
在业务决策流程中引入的算法决策辅助工具如何影响任务表现？在第一个实验中，我们研究了有效协作。面对一项决策，受试者单独的成功率为72%；在成功率为75%的推荐系统辅助下，其成功率达到了76%。因此，人—系统协作的成功率高于单独任一方。然而，我们观察到一种自满/权威偏差，当推荐系统出错时，该偏差使决策质量下降了5%。这表明任何残留的算法偏差都可能被决策辅助工具放大。在第二个实验中，我们评估了5种呈现变体在减少自满偏差方面的有效性。我们发现可选式呈现增强了受试者对错误推荐的抗拒能力。最后我们论证，在真实使用场景中，当决策辅助工具作为系统级功能嵌入业务流程管理软件时，我们的度量指标可带来更高的收益。
引用
@article{arxiv.2009.08127,
title = {Addressing Cognitive Biases in Augmented Business Decision Systems},
author = {Thomas Baudel and Manon Verbockhaven and Guillaume Roy and Victoire Cousergue and Rida Laarach},
journal= {arXiv preprint arXiv:2009.08127},
year = {2020}
}
备注
22 pages, 8 figures, submitted to ACM CHI 2021 conference