Lucy:基于机器生成任务向量的移动端智能体化网页搜索
计算与语言
2025-08-04 v1
摘要
小型语言模型(SLM)因其受限的容量,在知识密集型任务上存在局限。虽然测试时计算提供了提升性能的路径,但大多数方法将推理视为固定或启发式的过程。本文提出了一种新范式:将模型内部推理(由标记 delimit 标记界定)视为动态任务向量机器。我们不把这些标记内的内容仅仅当作思考痕迹,而是将生成过程本身解释为模型通过自身构造和细化自身任务向量的机制。我们开发了一种方法,通过RLVR优化这一动态任务向量机器,成功训练了一个智能体化网页搜索模型。我们Present了Lucy,这是一个1.7B参数的SLM,利用这种动态推理机制结合MCP集成,实现了对SimpleQA基准测试的78.3%准确率,与规模更大的模型(如DeepSeek-V3)持平。这表明,在获得结构化、自我构造的任务推理后,小型模型可以与大型模型一样优秀。
引用
@article{arxiv.2508.00360,
title = {Lucy: edgerunning agentic web search on mobile with machine generated task vectors},
author = {Alan Dao and Dinh Bach Vu and Alex Nguyen and Norapat Buppodom},
journal= {arXiv preprint arXiv:2508.00360},
year = {2025}
}