CohEx：面向队列解释的通用框架
机器学习
2024-12-12 v2 人工智能
摘要
可解释人工智能（XAI）因提升机器学习模型的透明度和可信度而受到广泛关注。然而，大多数现有解释技术的作用范围要么关注提供模型整体视图的全局解释，要么关注单个实例的局部解释，而中间的、即队列基于的解释研究相对较少。队列解释提供了对特定实例群或队列中解释器行为的洞察，使我们能够在特定语境下更深入地理解模型决策。本文讨论了衡量队列解释所特有的挑战和机遇，定义其期望属性，并基于监督聚类创建面向队列解释的通用框架。
引用
@article{arxiv.2410.13190,
title = {CohEx: A Generalized Framework for Cohort Explanation},
author = {Fanyu Meng and Xin Liu and Zhaodan Kong and Xin Chen},
journal= {arXiv preprint arXiv:2410.13190},
year = {2024}
}