无论缘由，只要正确：健康相关询问场景中的人工智能事实核查与人工智能权威性
计算与语言
2023-10-24 v1 人工智能
人机交互
摘要
先前关于专家建议采纳的研究表明，人类表现出两种矛盾行为：一方面，人们倾向于高估自己的意见而低估专家意见；另一方面，人们常常遵从他人的建议，即使该建议本身明显错误。在我们的研究中，我们在不同的“建议质量”设置下，对用户在评估健康相关陈述真实性时的AI建议接受行为进行了探索性评估。我们发现，即使是仅限于陈述“AI认为该陈述为假/真”的反馈，也会导致超过一半的人将其陈述真实性评估向AI建议方向移动。所给建议的不同类型会影响接受率，但获得建议这一纯粹效应往往大于建议类型的效应。
引用
@article{arxiv.2310.14358,
title = {Right, No Matter Why: AI Fact-checking and AI Authority in Health-related Inquiry Settings},
author = {Elena Sergeeva and Anastasia Sergeeva and Huiyun Tang and Kerstin Bongard-Blanchy and Peter Szolovits},
journal= {arXiv preprint arXiv:2310.14358},
year = {2023}
}