交互式示例解释以提升健康专业人员与 AI 协作决策中的入职能力
人机交互
2024-09-25 v1 人工智能
机器学习
摘要
不断增长的研究探索着 AI 解释在用户决策阶段的应用，以支持人机协作决策。然而，先前研究发现，对错误 AI 输出的依赖问题。本文提出交互式示例解释，以提升健康专业人员与 AI 协作决策中的入职能力，从而改善其对 AI 的依赖。我们实现了一个基于 AI 的决策支持系统，该系统利用神经网络评估中风后存活者的运动质量，并提供交互式示例解释，系统性地呈现来自 AI 模型训练集中与测试/任务样本最接近的邻域，以协助用户入职。为考察交互式示例解释的效果，我们与领域专家、健康专业人员开展了研究，评估他们的性能和对 AI 的依赖。我们的交互式示例解释在入职期间帮助健康专业人员更好地依赖 AI，并在做出正确决策比例更高、错误决策比例更低于仅提供特征解释的决策支持阶段。我们的研究讨论了支持用户入职与 AI 协作决策的新挑战。
引用
@article{arxiv.2409.15814,
title = {Interactive Example-based Explanations to Improve Health Professionals' Onboarding with AI for Human-AI Collaborative Decision Making},
author = {Min Hun Lee and Renee Bao Xuan Ng and Silvana Xinyi Choo and Shamala Thilarajah},
journal= {arXiv preprint arXiv:2409.15814},
year = {2024}
}