面向表格数据的类注意力特征解释方法
机器学习
2021-08-12 v1 人工智能
摘要
提出了一种针对表格数据的机器学习黑盒模型预测的局部与全局解释新方法。该方法实现为称为 AFEX（Attention-like Feature EXplanation，类注意力特征解释）的系统，由两主要部分构成。第一部分是一组单特征神经子网络，旨在以形状函数基的形式为各特征获取特定表示。这些子网络使用带可训练参数的快捷连接以提升网络性能。AFEX 的第二部分将特征的形状函数生成为基形状函数的加权和，其中权重通过类注意力机制计算。AFEX 基于对应于不同特征的形状函数之间的两两乘积识别特征间两两交互。提出了一种融入额外代理模型（该模型逼近黑盒模型）的 AFEX 改进版本。AFEX 在整个数据集上仅端到端训练一次，从而在解释阶段无需重新训练神经网络。基于合成与真实数据的数值实验说明了 AFEX。
引用
@article{arxiv.2108.04855,
title = {Attention-like feature explanation for tabular data},
author = {Andrei V. Konstantinov and Lev V. Utkin},
journal= {arXiv preprint arXiv:2108.04855},
year = {2021}
}