用决策路径评估学习排序模型的局部模型无关解释
机器学习
2022-03-17 v2 机器学习
摘要
学习排序（LTR）模型的局部解释被认为提取了贡献于 LTR 模型对单个数据点预测排序的最重要特征。评估此类解释的准确性具有挑战性，因为大多数现代 LTR 模型的真实特征重要性分数不可用。本工作中，我们提出一种针对 LTR 模型解释的系统评估技术。我们提议聚焦于基于树的 LTR 模型而非神经网络等黑盒模型，从中可用决策路径提取真实特征重要性分数。提取后，我们可直接将真实特征重要性分数与解释技术生成的特征重要性分数比较。我们在 MQ2008 数据集上使用决策树和梯度提升模型，比较了两种近期提出的 LTR 模型解释技术。我们表明这些技术的解释准确性可因所解释模型甚至所解释数据点不同而有很大差异。
引用
@article{arxiv.2203.02295,
title = {Evaluating Local Model-Agnostic Explanations of Learning to Rank Models with Decision Paths},
author = {Amir Hossein Akhavan Rahnama and Judith Butepage},
journal= {arXiv preprint arXiv:2203.02295},
year = {2022}
}
备注
16 pages, 6 Figures, 3 Tables, Submitted to ECML PKDD 2022