让人们失败！探索可解释虚拟与机器人主体在学习型任务中的影响
人工智能
2024-11-18 v1 人机交互
机器人学
摘要
与人工智能（AI）代理进行协作决策 presents 机会与挑战。虽然人类与AI的性能往往超过单个个体，但这种技术对人类行为的影响仍不够人们所理解，特别是当AI代理能够为其建议提供合理的解释时。本研究比较了经典解释与合作方感知解释对人类行为和性能在学习型任务中的影响。三个参与者组参与其中：一组与计算机互动，另一组与人形机器人互动，第三组则无需帮助。结果表明，合作方感知解释对参与者的影响因与人工代理类型而异。在计算机方面，参与者提高了任务完成时间。同时，与人形机器人互动的参与者更倾向于遵循其建议，尽管他们没有缩短时间。有趣的是，自主进行学习型任务的参与者在知识获取方面优于接受可解释AI（XAI）帮助的参与者。这些发现提出了深刻的问题，并对自动化辅导和人类AI合作具有重大意义。
引用
@article{arxiv.2411.10176,
title = {Let people fail! Exploring the influence of explainable virtual and robotic agents in learning-by-doing tasks},
author = {Marco Matarese and Francesco Rea and Katharina J. Rohlfing and Alessandra Sciutti},
journal= {arXiv preprint arXiv:2411.10176},
year = {2024}
}