Transformer模型具有规范不变性：AI与粒子物理之间的数学联系
机器学习
2024-12-20 v1 高能物理 - 理论
摘要
在粒子物理学中，基本力受称为规范不变性的对称性约束。这是对任何物理系统数学描述的冗余。在本文中，我将演示Transformer架构具有相同的性质，并展示默认的Transformer表示部分但并非完全消除了规范不变性。
关键词
引用
@article{arxiv.2412.14543,
title = {Transformer models are gauge invariant: A mathematical connection between AI and particle physics},
author = {Leo van Nierop},
journal= {arXiv preprint arXiv:2412.14543},
year = {2024}
}
备注
10 pages, 2 figures, 1 table