FANoS-v2：基于反馈控制的动量热力学阻尼轻量级神经优化器
机器学习
2026-05-11 v2
摘要
FANoS 是一个 PyTorch 优化器，为 RMS 预条件动量增添标量反馈控制器。公开参考实现存储动量以参数更新单位计量，应用非负热力学阻尼系数，支持对角、因式和原始梯度预条件，并公开诊断工具以便进行稳定性审计。本研究对已发布优化器进行完整的数学规格说明，包括精确的参数单位更新、研究方程物理更新模式、受限对数比热力学控制、自适应预条件软化、热身护栏以及实验 Fast 配置。我们报告 v0.2 证据：基于五种随机种子进行的减样 MNIST、Fashion-MNIST 和 CIFAR-10 实验显示 Fast 配置下平均 top-1 准确率分别比 AdamW 提升 0.889、2.197 和 2.666 个百分点，但耗时分别提高 49.8%、61.6% 和 56.8%。初步的科学、PINN 和 EEG 测试结果不佳，仅作为假设生成性报告处理。该证据支持 FANoS 作为具有可重复轻量视觉信号的 alpha 阶段研究优化器，显式运行瓶颈。
引用
@article{arxiv.2601.00889,
title = {FANoS-v2: Feedback-Controlled Momentum with Thermostat Damping for Lightweight Neural Optimization},
author = {Nalin Dhiman},
journal= {arXiv preprint arXiv:2601.00889},
year = {2026}
}
备注
17 pages, 3 figures, 5 tables