指标就够了吗?向领域专家传达与可视化预测模型的指南
人机交互
2025-03-19 v3 机器学习
摘要
展示预测模型的性能是数据科学家与领域专家之间协作的一大沟通瓶颈。仅凭准确率与误差指标无法讲述模型的完整故事——其风险、优势与局限——使得领域专家难以对使用模型的决策建立信心。其结果可能是模型以意想不到的方式失效,或完全未被使用,因为领域专家会弃用展示不佳的模型,转而选择熟悉但 arguably 次优的方法。在本文中,我们描述了一项与领域专家和数据科学家共同开展的迭代研究,以理解两组之间的沟通鸿沟。我们发现,尽管两组有着理解数据与模型预测的共同目标,摩擦可能源于不熟悉的术语、指标与可视化——限制了知识向领域专家(SMEs)的传递,并抑制了在展示过程中提出澄清性问题。基于我们的发现,我们推导出一套以可视化为共同媒介来传达模型优劣的沟通指南。我们在一个回归建模场景中演示了指南,并征询了领域专家对其使用的反馈。从我们的演示来看,领域专家更自如地讨论模型性能,更清楚所展示模型的权衡,并更有能力评估模型风险——最终在文本与数字之外对模型的使用加以说明与情境化。
引用
@article{arxiv.2205.05749,
title = {Are Metrics Enough? Guidelines for Communicating and Visualizing Predictive Models to Subject Matter Experts},
author = {Ashley Suh and Gabriel Appleby and Erik W. Anderson and Luca Finelli and Remco Chang and Dylan Cashman},
journal= {arXiv preprint arXiv:2205.05749},
year = {2025}
}
备注
IEEE TVCG 2023