错位的信任：度量机器学习对人类决策过程的干扰
人机交互
2020-05-25 v1 人工智能
机器学习
摘要
机器学习决策辅助系统在网络上日益普及，但其成功集成依赖于人们对其适度的信任：人们应利用系统弥补自身能力的不足，同时能识别系统可能出错的信号。我们通过一项针对175名成年人的基于任务的实验，度量了人们的机器学习推荐信任度如何随专业水平及系统信息量的增加而不同。我们采用了两项对人类而言困难的任务：比较大群人群规模与辨识外观相似的动物。我们的结果提供了三个关键见解：(1) 对于自己多数时候能正确完成的任务，人们也会信任错误的机器学习推荐，即便他们具备较高的机器学习先验知识，或被告知系统对其预测并不确信；(2) 四类不同的系统信息均提升了人们对推荐的信任度；(3) 对于使用机器学习推荐的决策者而言，数学与逻辑能力可能与机器学习知识同样重要。
引用
@article{arxiv.2005.10960,
title = {Misplaced Trust: Measuring the Interference of Machine Learning in Human Decision-Making},
author = {Harini Suresh and Natalie Lao and Ilaria Liccardi},
journal= {arXiv preprint arXiv:2005.10960},
year = {2020}
}
备注
10 pages