Jupiter-N技术报告
计算与语言
2026-04-21 v1 人工智能
摘要
我们提出Jupiter-N,这是一个源自Nemotron 3 Super(一个完全开源的1200亿参数大语言模型)的混合推理模型。我们致力于三个目标:(1)通过不确定性筛选后的轨迹实现智能体能力;(2)基于文化规范构建的合成数据实现英国文化对齐;(3)通过平行语料和LLM翻译的威尔士语对话实现威尔士语支持。我们的数据策划策略仔细保留了基础模型的能力:采用我们的Forget-Me-Not框架,将策略性合成回放与非策略任务数据混合,以缓解灾难性遗忘,并包含推理与非推理轨迹的混合,以维持Nemotron的混合推理能力。Jupiter-N在威尔士语(在ARC-Easy上提升18分,在MMLU-Lite上提升5.25分)、终端使用(在Terminal Bench 2上提升9.1分)以及指令遵循(在IFBench上提升4.4分)方面均实现显著提升,同时保留了基础模型的能力。我们将此工作视为一种主权后训练的可复现模板:通过替换文化知识、制度性语料库和目标语言,可为任何国家构建等效的训练管道。所有模型权重和所有后训练数据均在开源许可证下公开发布。
引用
@article{arxiv.2604.17429,
title = {Jupiter-N Technical Report},
author = {George Drayson},
journal= {arXiv preprint arXiv:2604.17429},
year = {2026}
}