nn2poly：将神经网络转换为可解释多项式的 R 软件包
机器学习
2024-06-04 v1 人工智能
机器学习
摘要
nn2poly 软件包提供了在 R 中实现 NN2Poly 方法的实现，用于通过多项式表示来解释和解释前馈神经网络，这些多项式以等效方式预测原始网络。通过获取多项式系数，可以表示每个变量及其相互作用对输出的影响和重要性。这种捕获相互作用的能力是解释性人工智能 (XAI) 方法中通常缺失的关键方面，尤其是那些依赖于高成本计算的模型，当应用于大型神经网络时，这种计算成本会被放大。软件包提供了与 R 中主要深度学习框架软件包（tensorflow 和 torch）的集成，允许用户友好地应用 NN2Poly 算法。此外，nn2poly 提供了在这些同一框架中使用所需权重约束的实现。其他神经网络软件包也可以使用通过以列表格式包含其权重来使用。使用 nn2poly 获取的多项式还可以用于对新数据进行预测或通过其自身的绘图方法进行可视化。提供了示例演示了软件包的用法，并与 R 中其他可用于解释神经网络的方法进行了比较。
引用
@article{arxiv.2406.01588,
title = {nn2poly: An R Package for Converting Neural Networks into Interpretable Polynomials},
author = {Pablo Morala and Jenny Alexandra Cifuentes and Rosa E. Lillo and Iñaki Ucar},
journal= {arXiv preprint arXiv:2406.01588},
year = {2024}
}