导航 Rashomon 效应：个人化如何帮助调整面向 individual 用户的可解释机器学习模型
机器学习
2025-05-13 v1 人机交互
摘要
Rashomon 效应描述了在机器学习 (ML) 中，多个模型往往在预测性能方面相似，但对解释底层关系的方式不同。这一观察即便针对内在可解释模型也成立，例如广义可加模型 (GAM)，这些模型为用户提供了宝贵的对模型行为的洞见。鉴于存在多个具有相似预测性能的 GAM 配置，一个自然的问题是我们能否根据用户对可解释性的需求对这些配置进行个人化。在我们的研究中，我们开发了一种基于情境 bandit 的个人化模型方法。在针对 108 名用户的在线实验中，我们将其与非个人化对照组进行比较，发现个人化导致个体化而非通用的配置。尽管进行了这些个性化调整，两个组中的可解释性仍保持高水平，用户报告对模型有强烈的理解。我们的研究提供了关于如何个人化可解释 ML 的初步见解。
引用
@article{arxiv.2505.07100,
title = {Navigating the Rashomon Effect: How Personalization Can Help Adjust Interpretable Machine Learning Models to Individual Users},
author = {Julian Rosenberger and Philipp Schröppel and Sven Kruschel and Mathias Kraus and Patrick Zschech and Maximilian Förster},
journal= {arXiv preprint arXiv:2505.07100},
year = {2025}
}
备注
Accepted as a Completed Research Paper at the Thirty-Third European Conference on Information Systems (ECIS 2025), Amman, Jordan