应用于地球系统变率分析的回声状态网络逐层相关性传播
机器学习
2022-11-17 v2 人工智能
摘要
人工神经网络（ANNs）众所周知是解决许多困难问题（例如图像分类、语音识别或时间序列预测）的强大方法。然而，这些模型往往产生黑盒结果且难以解释。逐层相关性传播（LRP）是一种广泛使用的技术，用于理解 ANN 模型如何得出结论以及模型学到了什么。在此，我们关注回声状态网络（ESNs）作为一种特定类型的循环神经网络，也称为储备池计算。ESNs 易于训练且只需要少量可训练参数，但仍是黑盒模型。我们展示了如何将 LRP 应用于 ESNs 以打开黑盒。我们还展示了 ESNs 如何不仅用于时间序列预测，还可用于图像分类：我们的 ESN 模型用作从海表温度异常中检测厄尔尼诺南方涛动（ENSO）的检测器。ENSO 实际上是一个众所周知的问题，此前已被广泛讨论。但在此我们使用这一简单问题来演示 LRP 如何显著增强 ESNs 的可解释性。
引用
@article{arxiv.2210.09958,
title = {Layer-wise Relevance Propagation for Echo State Networks applied to Earth System Variability},
author = {Marco Landt-Hayen and Peer Kröger and Martin Claus and Willi Rath},
journal= {arXiv preprint arXiv:2210.09958},
year = {2022}
}
备注
Shortened title, corrected author affiliation, added citation reference: Accepted at 3rd International Conference on Machine Learning Techniques (MLTEC 2022), Zurich, Switzerland