GAM(e) changer 与否？基于加性模型约束的可解释机器学习模型评估
机器学习
2022-04-21 v1 人工智能
计算机与社会
人机交互
摘要
当前涉及可解释人工智能（XAI）的信息系统（IS）研究数量正在激增，因为该领域要求对机器学习（ML）模型的内部决策逻辑有更多透明度。然而，归在XAI下的大多数技术提供的是事后分析解释，须谨慎对待，因为它们仅使用底层ML模型的近似。因此，我们的论文研究了一系列内在可解释的ML模型，并讨论它们对IS社区的适用性。更具体地，我们关注广义加性模型（GAM）的先进扩展，其中预测变量以非线性方式独立建模以生成形状函数，这些函数可捕捉任意模式但仍完全可解释。在我们的研究中，我们评估了五种GAM与六种传统ML模型的预测质量，并评估它们用于模型可解释性的可视化输出。在此基础上，我们考察其优点与局限，并推导出进一步改进的设计启示。
引用
@article{arxiv.2204.09123,
title = {GAM(e) changer or not? An evaluation of interpretable machine learning models based on additive model constraints},
author = {Patrick Zschech and Sven Weinzierl and Nico Hambauer and Sandra Zilker and Mathias Kraus},
journal= {arXiv preprint arXiv:2204.09123},
year = {2022}
}
备注
Preprint accepted for archival and presentation at the 30th European Conference on Information Systems (ECIS 2022)