特征-功能曲率分析：一种解释可微模型的几何框架
机器学习
2025-11-03 v1 人工智能
摘要
可解释人工智能（XAI）对于构建复杂机器学习模型的信任至关重要，但主流的归因方法往往提供不完整、静态的模型最终状态图景。通过将 feature 的作用坍缩为单个评分，这些方法受非线性性和相互作用的干扰。为此，我们引入特征-功能曲率分析（FFCA），一种新型框架，通过分析模型学习函数的几何来实现解释。FFCA 为每个 feature 生成一个四维特征签名，量化其：（1）影响力，（2）波动性，（3）非线性性，（4）相互作用。关键在于，我们将该框架扩展为动态原型分析，这种方法追踪这些特征签名在训练过程中演化。这种时间视图超越了解释模型学习了什么，揭示了模型是如何学习的。我们提供了关于层次性学习的首个直接、实证证据，表明模型在复杂相互作用之前始终学习简单线性效应。此外，这种动态分析为识别模型容量不足和预测过拟合开端提供了新实用诊断工具。我们的全面实验表明，FFCA 通过其静态和动态组件，为模型解释从简单的量化转变为对整个学习过程的细致可信分析提供了必需的几何背景。
引用
@article{arxiv.2510.27207,
title = {Feature-Function Curvature Analysis: A Geometric Framework for Explaining Differentiable Models},
author = {Hamed Najafi and Dongsheng Luo and Jason Liu},
journal= {arXiv preprint arXiv:2510.27207},
year = {2025}
}