Domain Mixed Unit:一种新的神经算术层
机器学习
2025-09-16 v3
摘要
Domain Mixed Unit(DMU)是一种新的神经算术单元,它学习一个单一的参数门,在执行加法(DMU add)或减法(DMU sub)时,在对数空间和线性空间表示之间进行混合。提出了两种 DMU 的初始化方案:一种覆盖加法和乘法,另一种覆盖减法和除法。DMU 在 NALM Benchmark 上的表现居于最高水平,该数据集旨在测试神经算术单元的能力,以具体执行算术运算。DMU 在所有随机种子上执行乘法和除法的解答比例最高。DMU 将作为提交给开源 NALM Benchmark 的拉取请求,代码已在 GitHub 上提供,地址为 https://github.com/marict/nalm-benchmark。
引用
@article{arxiv.2509.08180,
title = {The Domain Mixed Unit: A New Neural Arithmetic Layer},
author = {Paul Curry},
journal= {arXiv preprint arXiv:2509.08180},
year = {2025}
}
备注
Includes results on the NALM benchmark