中文

Jan-nano 技术报告

计算与语言 2025-07-16 v2

摘要

大多数语言模型面临一个根本性的权衡,即强大的能力需要大量计算资源. 我们通过 Jan-nano 这一 4B 参数语言模型打破了这一限制,通过激进的专业化重新定义了效率:而不是试图了解一切,它专精于瞬间查找任何信息. 基于我们新式的多阶段可验证奖励强化学习 (RLVR) 系统进行微调,该系统完全消除了对下一词预测训练 (SFT) 的依赖,Jan-nano 在集成 MCP 后实现了 SimpleQA benchmark 的 83.2% 准确率,可在消费级硬件上运行. 具有 128K 上下文长度,Jan-nano 证明智力不在于规模,而在于策略.

关键词

引用

@article{arxiv.2506.22760,
  title  = {Jan-nano Technical Report},
  author = {Alan Dao and Dinh Bach Vu},
  journal= {arXiv preprint arXiv:2506.22760},
  year   = {2025}
}