中文

神经可添加专家:可控模型可添加性的情境门控专家

机器学习 2026-02-12 v1 人工智能

摘要

解释性与准确性之间的权衡是机器学习中的核心挑战。标准广义可添加模型(GAMs)提供清晰的特征归因,但严格的可添加性限制了预测性能。引入特征交互可提升准确性,却可能模糊单个特征贡献。为此,我们提出神经可添加专家(NAEs),一种无缝平衡解释性与准确性的新框架。NAEs采用专家混合框架,为每个特征学习多个专门网络,同时动态门控机制整合跨特征信息,从而松弧刚性可添加约束。进一步,我们提出针对性的正则化技术以缓解专家预测间的方差,实现从纯粹可添加模型向捕获复杂特征交互的模型的平滑过渡,同时保持特征归因的清晰度。我们的理论分析和合成数据实验说明了模型的灵活性,广泛的真实数据评估表明,NAEs在预测准确性和透明特征层次解释之间实现了最佳平衡。代码已公开:https://github.com/Teddy-XiongGZ/NAE。

关键词

引用

@article{arxiv.2602.10585,
  title  = {Neural Additive Experts: Context-Gated Experts for Controllable Model Additivity},
  author = {Guangzhi Xiong and Sanchit Sinha and Aidong Zhang},
  journal= {arXiv preprint arXiv:2602.10585},
  year   = {2026}
}

备注

AISTATS 2026