MAGNET：基于去中心化自主研究与 BitNet 训练的自主专家模型生成
机器学习
2026-03-30 v1 人工智能
摘要
我们提出了 MAGNET（Model Autonomously Growing Network），一个面向商品硬件上进行领域专家语言模型自主生成、训练与部署的去中心化系统。MAGNET 集成了四个组件：（1）autoresearch，即一种自动化的机器学习研究管线，自动化数据集生成、超参数探索、评估与错误驱动迭代；（2）BitNet b1.58 三值训练，使其能够通过 bitnet.cpp 在 CPU 上原生推理，无需 GPU 硬件；（3）基于 DiLoCo 的分布式合并，用于通信高效的领域专家聚合；（4）在 HOOTi EVM 链上进行的贡献跟踪。我们通过三个案例研究验证了 autoresearch：视频安全分类（平衡准确率 0.9287 到 0.9851）、加密货币方向预测（41% 到 54.9% 中枢率）以及 BitNet 超参数优化（10 阶段扫描，-16.7% 验证损失）。
引用
@article{arxiv.2603.25813,
title = {MAGNET: Autonomous Expert Model Generation via Decentralized Autoresearch and BitNet Training},
author = {Yongwan Kim and Sungchul Park},
journal= {arXiv preprint arXiv:2603.25813},
year = {2026}
}
备注
20 pages, 4 figures, 8 tables