面向 MNIST 的方向性非交换单子嵌入
机器学习
2025-06-05 v1
摘要
我们对最近在 prior work~\cite{Godavarti2025monoidal} 中提出的方向性非交换单子嵌入框架进行了经验性验证。该框架定义了使用每个维度(轴)上不同非交换算子的可学习组合嵌入,这些算子满足交换律,拓展了经典一维变换。我们的主要目标是验证该框架能否通过应用于一个受控且被充分理解的任务——MNIST 数据集~\cite{lecun1998gradient} 上的图像分类——来有效建模真实数据。解释该框架为何表现良好的核心假设是:它通过学习任务特定的频率分量而非使用固定基频,来推广离散傅里叶变换(DFT)~\cite{oppenheim1999discrete}。我们通过将学习得到的单子嵌入与固定的 DFT 嵌入在 MNIST 上的比较来测试这一假设。结果表明,随着嵌入维度的降低(例如从 32 降至 8 再降至 2),学习得到的单子嵌入与固定 DFT 嵌入在 MNIST 上的性能差距逐渐扩大。该比较被用作分析工具以解释框架为何表现良好:可学习的嵌入能够捕获任务中最具辨识力的频谱成分。总体而言,我们的实验确认,方向性非交换单子嵌入在表示图像数据方面非常有效,提供了一种保持高任务性能的紧凑可学习表示。本工作使用的代码可在 https://github.com/mahesh-godavarti/directional_composition_mnist 查看。
引用
@article{arxiv.2506.03472,
title = {Directional Non-Commutative Monoidal Embeddings for MNIST},
author = {Mahesh Godavarti},
journal= {arXiv preprint arXiv:2506.03472},
year = {2025}
}