CUBE：通过平衡实验进行对比理解
机器学习
2026-05-18 v5 人工智能
机器学习
摘要
解释一个训练好的模型需要对解释性证据的生成方式有一个清晰的说明。我们提出了 CUBE，这是一个将因子实验设计引入黑箱模型分析的后置解释框架。CUBE 在平衡的低--高探针组合上评估训练好的预测器，并将响应总结为因子效应。主效应和二元相互作用被解释为在指定解释区域上的受控对比。完整的因子探针在选定的设计空间上精确识别这些效应，而分数探针则降低查询成本并暴露别名和分辨率约束。在合成和真实表格任务上的实验表明，CUBE 恢复了主导学习效应结构，并澄清了查询高效解释的可辨识限制。
引用
@article{arxiv.2509.10825,
title = {CUBE: Contrastive Understanding by Balanced Experiments},
author = {Dongseok Kim and Hyoungsun Choi and Mohamed Jismy Aashik Rasool and Gisung Oh},
journal= {arXiv preprint arXiv:2509.10825},
year = {2026}
}
备注
Substantially revised version with a new title, framing, method presentation, and experimental evaluation