XAutoML：用于理解与验证自动化机器学习的可视分析工具
机器学习
2023-11-27 v3 人工智能
人机交互
摘要
在过去十年中，各种自动化机器学习（AutoML）系统被提出以在最少人工交互下构建端到端机器学习（ML）流水线。尽管此类自动合成的 ML 流水线能够达到具有竞争力的性能，近期研究表明用户因 AutoML 系统缺乏透明性以及所构建 ML 流水线缺乏解释而不信任 AutoML 构建的模型。在一项涉及 36 名具有差异巨大的 ML 专业背景的领域专家、数据科学家和 AutoML 研究者的需求分析研究中，我们收集了针对 AutoML 的详细信息需求。我们提出 XAutoML，一种用于解释任意 AutoML 优化过程及 AutoML 构建的 ML 流水线的交互式可视分析工具。XAutoML 将交互式可视化与可解释人工智能（XAI）的成熟技术结合，使完整的 AutoML 过程透明且可解释。通过将 XAutoML 与 JupyterLab 集成，有经验的用户可基于从 XAutoML 提取的信息以临时可视化扩展该可视分析。我们使用来自需求分析的同一多样化用户组在用户研究中验证了我们的方法。所有参与者均能从 XAutoML 中提取有用信息，从而显著增进对 AutoML 生成的 ML 流水线及 AutoML 优化本身的理解。
引用
@article{arxiv.2202.11954,
title = {XAutoML: A Visual Analytics Tool for Understanding and Validating Automated Machine Learning},
author = {Marc-André Zöller and Waldemar Titov and Thomas Schlegel and Marco F. Huber},
journal= {arXiv preprint arXiv:2202.11954},
year = {2023}
}
备注
Revised version accepted at ACM TiiS Special Issue on Human-centered Explainable AI