若能嵌入则嵌入：一种几何感知机
机器学习
2022-06-15 v4 机器学习
摘要
利用机器学习求解涉及点云的几何任务是一个具有挑战性的问题。标准前馈神经网络组合线性层或（若含偏置参数）仿射层与激活函数。其几何建模能力有限，这促使先前工作引入多层超球感知机（MLHP）。其组成单元即超球神经元，通过对欧氏空间共形嵌入得到。借助Clifford代数，它可实现为输入与权重的笛卡尔点积。若嵌入以与输入空间几何维度一致的方式施加，则模型单元的决策面变为超球的组合，并使决策过程对人类几何可解释。我们对MLHP模型的扩展，即多层几何感知机（MLGP），及其相应层单元（即几何神经元），与三维几何一致，并提供对学习系数的几何掌控。特别地，几何神经元激活在三维上等距，这是旋转与平移等变所必需的。在对3D俄罗斯方块形状分类时，我们定量表明，除嵌入外隐藏层无需其他激活函数即可超越 vanilla 多层感知机。在数据含噪声时，我们的模型亦优于MLHP。
引用
@article{arxiv.2006.06507,
title = {Embed Me If You Can: A Geometric Perceptron},
author = {Pavlo Melnyk and Michael Felsberg and Mårten Wadenbäck},
journal= {arXiv preprint arXiv:2006.06507},
year = {2022}
}
备注
updated pre-print version