我打赌你不是那个意思：通过下注检验语义重要性
机器学习
2024-10-08 v2 机器学习
摘要
最近的工作将特征重要性的概念扩展到语义概念，这些概念对于与黑盒预测模型交互的用户来说本质上是可解释的。然而，精确的统计保证，如假阳性率和错误发现率控制，对于透明地传达发现并避免现实场景中的意外后果是必要的。在本文中，我们通过条件独立性形式化了语义概念对于不透明模型预测的全局（即总体）和局部（即样本）统计重要性，这允许进行严格检验。我们使用序列核化独立性检验（SKIT）的最新思想来诱导概念间的重要性排序，并在合成数据集以及使用多种不同视觉语言模型的图像分类任务上展示了我们框架的有效性和灵活性。
引用
@article{arxiv.2405.19146,
title = {I Bet You Did Not Mean That: Testing Semantic Importance via Betting},
author = {Jacopo Teneggi and Jeremias Sulam},
journal= {arXiv preprint arXiv:2405.19146},
year = {2024}
}