NN2Poly:深度前馈人工神经网络的多项式表示
机器学习
2023-11-16 v4 机器学习
摘要
尽管神经网络的实际应用取得了巨大成功,特别是随着深度学习的兴起,其可解释性及其底层理论行为仍是一个开放的研究领域。本文提出NN2Poly:一种理论方法,用于获得一个显式多项式模型,该模型对已训练好的全连接前馈人工神经网络(多层感知机或MLP)提供准确表示。该方法将文献中提出的先前思想(仅限于单隐藏层网络)扩展到可处理任意深度的MLP,适用于回归和分类任务。NN2Poly在每一层对激活函数使用泰勒展开,然后应用若干组合性质来计算所需多项式的系数。文中讨论了该方法的主要计算挑战,以及通过在训练阶段施加某些约束来克服这些挑战的方式。最后,给出了模拟实验以及对真实表格数据集的应用,以证明所提方法的有效性。
引用
@article{arxiv.2112.11397,
title = {NN2Poly: A polynomial representation for deep feed-forward artificial neural networks},
author = {Pablo Morala and Jenny Alexandra Cifuentes and Rosa E. Lillo and Iñaki Ucar},
journal= {arXiv preprint arXiv:2112.11397},
year = {2023}
}