收敛正则化：可微广义加性模型中的共曲性正则化
机器学习
2025-11-11 v3 机器学习
摘要
广义加性模型（GAMs）近期因可解释性而重新流行，其可解释性源于将目标值表示为特征的非线性变换之和。尽管当前对GAMs热情高涨，但它们对共曲性（即特征之间（可能是非线性的）依赖关系）的敏感性迄今在很大程度上被忽视。在此，我们展示了共曲性如何严重损害GAMs的可解释性，并提出了一种补救方法：一个概念上简单却有效的正则化器，它惩罚非线性变换后特征变量之间的两两相关性。该过程适用于任何可微加性模型，如Neural Additive Models或NeuralProphet，并通过消除由自抵消特征贡献引起的歧义来增强可解释性。我们在合成及真实世界的时间序列和表格数据上验证了正则化器的有效性。实验表明，GAMs中的共曲性可在不显著损害预测质量的前提下被降低，从而提升可解释性并减少特征重要性估计的方差。
引用
@article{arxiv.2305.11475,
title = {Curve Your Enthusiasm: Concurvity Regularization in Differentiable Generalized Additive Models},
author = {Julien Siems and Konstantin Ditschuneit and Winfried Ripken and Alma Lindborg and Maximilian Schambach and Johannes S. Otterbach and Martin Genzel},
journal= {arXiv preprint arXiv:2305.11475},
year = {2025}
}