机器学习的伽罗瓦定理:关于对称矩阵和点云函数的轻量级不变特征
机器学习
2025-02-14 v3 交换代数
摘要
本文提出了一种针对机器学习中(1)关于对称矩阵上具有共轭置置换不变性的函数以及(2)关于点云上具有旋转、反射和点置换不变性的函数的数学表述。为实现此目标,我们受伽罗瓦理论启发,构建了一种由对称矩阵上生成元派生的 O(n²) 不变特征。我们证明,这些不变特征在除测度零集外可分离所有不同的轨道;这些特征可用于在几乎所有加权图上对不变函数进行通用逼近。对于固定维度下的点云,我们证明不变特征的数量可在不损失表达力的情况下,一般性地简化为 O(n),其中 n 为点数。我们将这些不变特征与 DeepSets 结合,用于处理规模可变的对称矩阵和点云函数。我们在分子性质回归和点云距离预测任务上,实证演示了我们方法的可行性。
引用
@article{arxiv.2405.08097,
title = {A Galois theorem for machine learning: Functions on symmetric matrices and point clouds via lightweight invariant features},
author = {Ben Blum-Smith and Ningyuan Huang and Marco Cuturi and Soledad Villar},
journal= {arXiv preprint arXiv:2405.08097},
year = {2025}
}