Logistic模型真的可解释吗？
机器学习
2024-06-21 v1
摘要
对开放可信AI模型的需求推动了大规模发布模型权重的趋势。使用这些模型权重的消费者必须能够据此作出相应的判断。尽管如此，最简单的AI分类模型——Logistic回归(LR)，其模型权重的解释却相当繁琐，尤其是在将LR扩展为广义可加模型时更为困难。本文我们通过用户研究表明，熟练的参与者在给定训练参数后难以可靠地复现小型LR模型的行为。作为对策，我们定义线性化可加模型(LAM)，这是一种在任何配备sigmoid链接函数的可加模型上进行的优化分段线性近似，无需重新训练。我们认为LAM的可解释性优于Logistic模型——调查参与者在解决模型推理任务时，针对LAM的准确率远高于LR，所需信息相同。此外，我们展示了LAM在广泛的公共金融建模数据集上，相对于其Logistic对手在ROC-AUC和校准方面不会受到显著的性能惩罚。
关键词
引用
@article{arxiv.2406.13427,
title = {Are Logistic Models Really Interpretable?},
author = {Danial Dervovic and Freddy Lécué and Nicolás Marchesotti and Daniele Magazzeni},
journal= {arXiv preprint arXiv:2406.13427},
year = {2024}
}
备注
36 pages, 5 Figures. Extended version of paper accepted to IJCAI 2024. arXiv admin note: substantial text overlap with arXiv:2211.06360