特征重要性的内在不一致性
机器学习
2023-12-07 v2 人工智能
人机交互
摘要
机器学习驱动技术的快速发展和广泛采用，凸显了创建可解释人工智能系统的实际与伦理需求。特征重要性是一种为个体特征对预测结果的贡献分配分数的方法，旨在作为增强人类对这些系统理解的工具来弥合这一差距。特征重要性在不同语境中充当预测的解释，无论是通过对整个数据集的现象提供全局解释，还是通过对特定数据点结果的局部解释。此外，特征重要性正被用于解释模型以及独立于模型识别数据中合理的因果关系。然而值得注意的是，这些不同语境传统上被孤立地探索，理论基础有限。本文提出了一个公理化框架，旨在建立特征重要性分数不同语境之间的连贯关系。特别地，我们的工作揭示了一个令人惊讶的结论：当我们将所提出的属性与文献中先前概述的属性结合时，我们证明了一种不一致性的存在。该不一致性凸显了特征重要性的某些本质属性无法在单一框架内和谐共存。
引用
@article{arxiv.2206.08204,
title = {Inherent Inconsistencies of Feature Importance},
author = {Nimrod Harel and Uri Obolski and Ran Gilad-Bachrach},
journal= {arXiv preprint arXiv:2206.08204},
year = {2023}
}