Show Me How：代理增强型反事实解释对非专业用户的益处与挑战
人机交互
2025-04-22 v1
摘要
反事实解释通过说明输入如何变化即可导致不同结果来提供可操作性见解。然而，这些解释常常含糊不清且不切实际，限制了其对知识有限的非专业用户的实用性。将大语言模型（LLM）增强的反事实解释被提出作为解决方案，但很少有研究考察了其对非专业用户的益处和挑战。为填补这一空白，我们开发了一个针对心血管疾病（CVD）高风险患者的系统，利用对话式 AI 代理增强反事实解释，提供清晰、可操作的建议以帮助患者降低其风险。通过对 34 名参与者的混合方法研究评估了 our 发现突显了代理增强型反事实解释在改进可操作建议方面的有效性。结果进一步表明，拥有使用对话式 AI 经验的用户在利用这些解释方面比初学者更有效。此外，本文引入了一套用于创建增强型反事实解释的通用准则，纳入措施以缓解常见 LLM 潜在问题（如幻觉），确保解释既可操作又与具体情境相关，适用于非专业用户。
引用
@article{arxiv.2504.13897,
title = {Show Me How: Benefits and Challenges of Agent-Augmented Counterfactual Explanations for Non-Expert Users},
author = {Aditya Bhattacharya and Tim Vanherwegen and Katrien Verbert},
journal= {arXiv preprint arXiv:2504.13897},
year = {2025}
}
备注
This is a pre-print version, the original version is available in the proceedings of ACM UMAP 2025