面向表格数据的稳定且可解释深度学习：引入 InterpreTabNet 与新型 InterpreStability 度量
机器学习
2023-10-05 v1 人工智能
摘要
随着人工智能（AI）更深入地融入各行各业，对强大模型的需求愈发强烈。虽然在提升模型能力及其跨领域适用性方面已取得重大进展，但一个明显的挑战依然存在：许多最先进的模型仍是黑箱。这种不透明性不仅使向最终用户解释模型决策变得复杂，也阻碍了模型设计者洞察中间过程。为应对这些挑战，我们提出 InterpreTabNet，一种通过利用 TabNet 架构与改进的注意力模块来增强分类准确性与可解释性的模型。该设计确保了稳健的梯度传播与计算稳定性。此外，我们提出一种新颖的评估度量 InterpreStability，用于量化模型可解释性的稳定性。所提模型与度量标志着可解释模型研究的重要进步，为 AI 模型设计与应用在各领域的透明性与可解释性设立了标准。InterpreTabNet 在多种应用场景的表格数据分析中超越其他领先方案，为创建兼具高精度与内在可解释性的深度学习模型的研究铺平了道路。InterpreStability 度量的引入确保了未来模型的可解释性能够以一致且严谨的方式被度量与比较。总体而言，这些贡献有潜力推动下一代可解释 AI 模型的设计原则与开发，拓宽可解释 AI 解决方案在关键决策环境中的采用。
引用
@article{arxiv.2310.02870,
title = {Stable and Interpretable Deep Learning for Tabular Data: Introducing InterpreTabNet with the Novel InterpreStability Metric},
author = {Shiyun Wa and Xinai Lu and Minjuan Wang},
journal= {arXiv preprint arXiv:2310.02870},
year = {2023}
}
备注
34 pages, 7 figures, 8 tables