模型是否说出数据所说的话？一种简单有效的模型数据对齐 heuristics
机器学习
2026-04-22 v2 人工智能
摘要
本文提出一种简单且计算高效的框架，用于评估机器学习模型是否与其所学习的数据结构保持一致，即模型是否说出数据所说的话。不同于专注于解释模型行为的现有可解释性方法，我们的方法直接从数据中派生基准。我们受 Rubin 的潜在结果框架启发，量化每个特征如何在二元分类任务中分离两个结果组，超越传统描述性统计量，估计每个特征对结果的影响。通过将这些从数据中派生的特征排序与模型基于解释的排序进行比较，我们为实践者提供了一种可解释且无模型依赖的方法，用于评估模型与数据之间的对齐情况。
引用
@article{arxiv.2511.21931,
title = {Does the Model Say What the Data Says? A Simple Heuristic for Model Data Alignment},
author = {Henry Salgado and Meagan R. Kendall and Martine Ceberio},
journal= {arXiv preprint arXiv:2511.21931},
year = {2026}
}