ReLATE：高性能张量分解的高效稀疏编码学习方法
机器学习
2025-09-03 v1 分布式、并行与集群计算
性能
摘要
张量分解（TD）是分析高维稀疏数据的关键技术，但其不规则计算和内存访问模式在现代并行处理器上提出了重大的性能挑战。以往的研究依赖专家设计的稀疏张量格式，无法适应不规则的张量形状和高度可变的数据分布。我们提出了强化学习自适应张量编码（ReLATE）框架，这是一种新型的学习增强方法，能够在无需标记训练样本的情况下自动构建高效的稀疏张量表示。ReLATE 采用自主智能体，通过与 TD 环境的直接交互来发现优化的张量编码，利用混合的无模型和基于模型的算法从真实动作和想象动作中学习。此外，ReLATE 引入了基于规则的动作掩码和基于动态的信息的动作过滤机制，确保即使在早期学习阶段也能以有界执行时间内实现功能正确的张量编码。通过自动适应不规则的张量形状和数据分布，ReLATE 生成的稀疏张量表示在 diverse 稀疏张量数据集上 consistently 超过专家设计的格式，最高可实现 2 倍加速，几何平均加速为 1.4-1.46 倍。
引用
@article{arxiv.2509.00280,
title = {ReLATE: Learning Efficient Sparse Encoding for High-Performance Tensor Decomposition},
author = {Ahmed E. Helal and Fabio Checconi and Jan Laukemann and Yongseok Soh and Jesmin Jahan Tithi and Fabrizio Petrini and Jee Choi},
journal= {arXiv preprint arXiv:2509.00280},
year = {2025}
}