因子增强的张量对张量神经网络
机器学习
2024-12-23 v2 机器学习
统计方法学
摘要
本文研究张量对张量回归的预测任务，其中协变量和响应都是随时间变化的多维数组（即张量），具有任意张量阶数和数据维度。现有方法要么专注于线性模型而不考虑协变量和响应之间可能的非线性关系，要么直接采用未能利用固有张量结构的黑箱深度学习算法。在这项工作中，我们提出了一种因子增强的张量对张量神经网络 (FATTNN)，它将张量因子模型集成到深度神经网络中。我们首先从复杂结构的张量协变量中总结和提取有用的预测信息（由“因子张量”表示），然后使用估计的因子张量作为时间卷积神经网络的输入进行预测任务。所提方法有效处理复杂数据结构之间的非线性，并在预测精度和计算成本上优于传统统计模型和常规深度学习方法。通过利用张量因子模型，我们的方法利用潜在因子结构增强预测，同时大幅降低数据维度以加速计算。通过模拟研究和三个公共数据集的真实应用展示了所提方法的实证性能。数值结果表明，与基准方法相比，我们的算法在预测精度上实现了显著提升，并在计算时间上显著减少。
引用
@article{arxiv.2405.19610,
title = {Factor Augmented Tensor-on-Tensor Neural Networks},
author = {Guanhao Zhou and Yuefeng Han and Xiufan Yu},
journal= {arXiv preprint arXiv:2405.19610},
year = {2024}
}