由 ANOVA 分解初始化的张量列格式黑箱逼近
数值分析
2022-08-09 v1 数值分析
摘要
代理模型可降低具有未知内部结构(黑箱)的多变量函数的计算成本。在离散表述中,代理建模等价于从其元素的一小部分恢复多维数组(张量)。张量列(TT)格式中的交替最小二乘(ALS)算法是一种广泛使用的方法,用于在给定训练集的非自适应张量恢复(即张量补全问题)情况下有效解决该问题。TT-ALS 可获得张量的低参数表示,该表示不受维数灾难影响,并可用于快速计算任意张量索引处的值或对黑箱进行高效的代数运算(如积分等)。然而,在训练数据规模受限的情况下为获得高精度,初始逼近的良好选择至关重要。本工作中,我们构造 TT 格式的 ANOVA 表示,并将其用作 TT-ALS 算法的初始逼近。针对若干多维模型问题(包括参数偏微分方程)进行的数值计算表明,相较于常用的随机初始逼近,我们的方法具有显著优势。在所有考虑的模型问题中,在相同黑箱调用次数下精度均提升至少一个数量级。所提方法具有高度通用性,可应用于广泛的实际代理建模与机器学习问题。
引用
@article{arxiv.2208.03380,
title = {Black box approximation in the tensor train format initialized by ANOVA decomposition},
author = {Andrei Chertkov and Gleb Ryzhakov and Ivan Oseledets},
journal= {arXiv preprint arXiv:2208.03380},
year = {2022}
}
备注
17 pages, 3 figures, 4 tables