上下文重要性与效用：一个理论基石
人工智能
2022-02-16 v1 机器学习
摘要
本文为可解释 AI（XAI）方法“上下文重要性与效用”（CIU）提供支持的新理论。CIU 的算法基于多属性效用理论的概念，这赋予了 CIU 坚实的理论基础。文中还定义了上下文影响这一新概念，使得 CIU 能与所谓的加性特征归因（AFA）方法直接比较，用于与模型无关的结果解释。一个关键结论是，AFA 方法所使用的“影响”概念即使对于待解释的简单模型，也不足以用于结果解释。对简单模型的实验表明，使用上下文重要性（CI）和上下文效用（CU）给出的解释在基于影响的方法失效之处仍能成立。文中还表明，CI 和 CU 保证了对被解释模型的忠实性。
引用
@article{arxiv.2202.07292,
title = {Contextual Importance and Utility: aTheoretical Foundation},
author = {Kary Främling},
journal= {arXiv preprint arXiv:2202.07292},
year = {2022}
}
备注
In Proceedings of the 34th Australasian Joint Conference on Artificial Intelligence, 2-4 February 2022, Sydney