基于文法的树形回声状态自编码器
神经与进化计算
2020-04-21 v1 机器学习
机器学习
摘要
树形数据以多种形式出现,例如计算机程序、化学分子或自然语言。不幸的是,树的非向量化和离散特性使得构建输出为树形结构的函数具有挑战性,这使优化或时间序列预测等任务变得复杂。自编码器通过将树映射到向量化的潜在空间来解决这一挑战,在该空间中任务更容易解决,然后将解决方案映射回树结构。然而,现有的树数据自编码方法未能考虑树域特定的文法结构,并且依赖深度学习,因此需要大量的训练数据集和较长的训练时间。在本文中,我们提出了树形回声状态自编码器(TES-AE),它由树文法引导,并借助储备池计算可在数秒内完成训练。我们在三个数据集上的评估表明,我们提出的方法不仅比最先进的深度学习自编码方法(D-VAE)快得多,而且在数据和训练时间有限的情况下,自编码误差也更小。
引用
@article{arxiv.2004.08925,
title = {Tree Echo State Autoencoders with Grammars},
author = {Benjamin Paassen and Irena Koprinska and Kalina Yacef},
journal= {arXiv preprint arXiv:2004.08925},
year = {2020}
}
备注
accepted at the 2020 International Joint Conference on Neural Networks (IJCNN 2020)