无代码解释 AI：一项关于可解释 AI 的用户研究
人工智能
2026-02-13 v1 人机交互
机器学习
摘要
机器学习 (ML) 在医疗、金融和公共政策等敏感领域的日益广泛应用，引发了对自动化决策透明性的关切。可解释 AI (XAI) 通过阐明模型如何生成预测来予以缓解，但大多数方法要求具备技术专业知识，限制了其对初学者的价值。这一差距在无代码 ML 平台尤为突出，这类平台旨在民主化 AI，却很少包含可解释性功能。我们在开源无代码 ML 平台 DashAI 中引入了一个以人为中心的 XAI 模块。该模块将三种互补技术——部分依赖图 (PDP)、置换特征重要性 (PFI) 和 KernelSHAP——整合到用于 tabular 分类的 DashAI 工作流程中。进行一次用户研究（N=20，包含 ML 初学者和专家）以评估可用性及解释的影响。结果显示：(i) 在所有解释任务中，任务成功率均达到 80% 以上；(ii) 初学者在解释满意度量表 (ESS, Cronbach's α=0.74) 上对解释的有用性、准确性和可信度持积极评价，而专家则更批判性地评估其充分性和完整性；(iii) 解释提升了用户对可预测性和信心的感知，在自动化信任量表 (TiA, α=0.60) 中，初学者的信任水平高于专家。这一研究揭示了无代码 ML 环境中 XAI 的核心挑战，使得解释既能为初学者所掌握，又能为专家提供足够的细节。
引用
@article{arxiv.2602.11159,
title = {Explaining AI Without Code: A User Study on Explainable AI},
author = {Natalia Abarca and Andrés Carvallo and Claudia López Moncada and Felipe Bravo-Marquez},
journal= {arXiv preprint arXiv:2602.11159},
year = {2026}
}
备注
LatinX in AI Workshop @ NeurIPS-25