人们是否与AI进行认知互动?AI辅助对偶然学习的影响
人机交互
2022-02-14 v1 人工智能
机器学习
摘要
当人们在做困难决策时收到建议,往往当下能做出更好的决定,同时也在此过程中增长知识。然而,这种偶然学习只有在人们对所接收信息进行认知加工并认真思考时才会发生。人们如何处理从AI处获得的建议与信息,其投入程度是否足以引发学习?为回答这些问题,我们开展了三个实验,要求被试做出营养决策,并接收模拟的AI推荐与解释。实验一发现,当人们在选择前同时看到推荐与解释时,比无此帮助时决策更好,但并未学习。实验二中,被试先自行选择,之后才看到AI的推荐与解释;该条件同样改善了决策,但无学习发生。而在实验三中,被试仅看到AI解释而无推荐,须自行得出决策;该条件既提升了决策准确性,也带来了学习收益。我们假设此条件下的学习收益源于为得出决策而对解释进行了更深层的加工。本研究提供了迄今为止最直接的证据之一:仅将解释与AI生成推荐一同呈现,不足以确保人们对AI提供的信息进行认真加工。本研究还提出了一种促成偶然学习的技术,并暗示其可帮助人们更仔细地处理AI推荐与解释。
引用
@article{arxiv.2202.05402,
title = {Do People Engage Cognitively with AI? Impact of AI Assistance on Incidental Learning},
author = {Krzysztof Z. Gajos and Lena Mamykina},
journal= {arXiv preprint arXiv:2202.05402},
year = {2022}
}
备注
13 pages, 6 figures, to appear in ACM IUI'22