通过马哈罗鲍夫距离解释神经网络
机器学习
2024-10-28 v1 人工智能
机器学习
摘要
本文提出了一种理论框架,将神经网络的线性层与马哈罗鲍夫距离相联系,为神经网络可解释性提供了新的视角。虽然以往研究主要通过激活函数来探索性能优化,但我们的工作则通过统计距离度量来解释这些函数,这在神经网络研究中相对少见。通过建立这一联系,我们为 developing 更具可解释性的神经网络模型提供了基础,这对于需要透明度的应用至关重要。虽然本工作为理论性质且不包含实证数据,但提出的基于距离的解释方法有望增强模型的鲁棒性,提高泛化能力,并提供对神经网络决策更直观的解释。
引用
@article{arxiv.2410.19352,
title = {Interpreting Neural Networks through Mahalanobis Distance},
author = {Alan Oursland},
journal= {arXiv preprint arXiv:2410.19352},
year = {2024}
}
备注
11 pages, October 2024