LiteGUI: 通过强化学习蒸馏轻量级GUI智能体
人工智能
2026-05-11 v1 机器学习
摘要
开发轻量级的、设备端的视觉语言GUI智能体对于高效的跨平台自动化交互至关重要。然而,当前的设备端智能体受限于有限的模型容量,其性能提升仍然迫切。针对小规模模型的传统监督式微调(SFT)常常导致过拟合、灾难性遗忘和策略僵化,因此无法完全应对这些挑战。在这项工作中,我们提出了一种新颖的无SFT训练范式,显著提升了小规模模型的性能。我们首先通过引导式在线蒸馏(Guided On-policy Distillation),首次将广义知识蒸馏系统性地整合到GUI智能体领域。通过结合预言者参考轨迹与动态检索机制,我们的方法减少了幻觉,并缓解了多解GUI任务中固有的认知失调。在此基础上,我们进一步引入了多解双层GRPO框架,该框架共同对齐了宏观层面的子任务规划与微观层面的执行匹配,从而改进了长时域GUI智能体场景中的探索。此外,我们构建了一个自动化数据生成流水线,用于合成带有丰富多解标注的GUI任务轨迹。大量实验表明,我们的方法在轻量级模型中达到了最先进的性能,同时在所有基准测试中与规模大得多的模型相比仍具有竞争力。消融研究进一步证明,结构化的在线蒸馏和多解双层探索能够充分释放2B/3B规模智能体的能力,超越了传统模仿学习的性能极限。
引用
@article{arxiv.2605.07505,
title = {LiteGUI: Distilling Compact GUI Agents with Reinforcement Learning},
author = {Yubin Wu and Zicheng Cai and Liping Ning and Hua Wang and Zhi Chen and Yaohua Tang and Hao Chen},
journal= {arXiv preprint arXiv:2605.07505},
year = {2026}
}