通过张量化增强深度学习模型：综合综述与框架
机器学习
2023-10-10 v3
摘要
公共领域数据的快速增长以及深度学习模型架构日益复杂，凸显了对更高效数据表示与分析技术的需求。本文受（Helal, 2023）工作的启发，旨在呈现关于张量化的全面概述。这一变革性方法弥合了数据固有的多维本质与基于线性代数的机器学习算法中常用的简化二维矩阵之间的鸿沟。本文探讨了张量化所涉及的步骤、多维数据源、所采用的各种多向分析方法，以及这些方法的益处。给出了一个盲源分离（BSS）的小例子，在 Python 中比较二维算法与多向算法。结果表明多向分析更具表现力。与维度灾难的直觉相反，以原生形式利用多维数据集并应用基于多线性代数的多向分析方法，展现出捕捉各维度间复杂相互关系的深刻能力，同时令人惊讶地减少了模型参数数量并加速了处理。本文通过不同应用领域的案例研究，综述了多向分析方法及其与各种深度神经网络模型的集成。
引用
@article{arxiv.2309.02428,
title = {Enhancing Deep Learning Models through Tensorization: A Comprehensive Survey and Framework},
author = {Manal Helal},
journal= {arXiv preprint arXiv:2309.02428},
year = {2023}
}
备注
34 pages, 8 figures, 4 tables