FINCH：用于可视化黑箱模型中高阶特征交互的本地方法
人机交互
2025-03-24 v1 人工智能
机器学习
摘要
在黑箱 AI 模型构成决策制定关键支柱的时代，针对这些模型提供稳健的解释方法至关重要。尽管这些模型利用复杂特征交互进行精确预测，但大多数解释方法仅对单个特征赋予相关性。存在研究空白，即缺乏有效描绘特征之间相互作用的方法，尤其是可视化涉及多个特征的高阶交互，这挑战了传统的表示方法。为解决此问题，本文聚焦面向单个实例的局部解释，采用基于子集的可视化方法揭示相关特征交互。我们的可视化分析工具 FINCH 使用颜色和高亮技术创建直观的人类中心可视化，并提供额外视图帮助用户校准对模型及解释的信任。我们在多个案例研究中展示了 FINCH 的通用性，并进行了针对机器学习专家的大规模人类实验，凸显其有用性和可用性。通过该方法，FINCH 允许用户在局部范围内可视化涉及任意数量特征的特征交互。
引用
@article{arxiv.2503.16445,
title = {FINCH: Locally Visualizing Higher-Order Feature Interactions in Black Box Models},
author = {Anna Kleinau and Bernhard Preim and Monique Meuschke},
journal= {arXiv preprint arXiv:2503.16445},
year = {2025}
}
备注
11 pages, 18 figures