基于强化学习的GUI智能体：迈向数字居民
人工智能
2026-05-01 v1 计算机视觉与模式识别
摘要
图形用户界面（Graphical User Interface, GUI）智能体已成为一种有前景的范式，用于构建能够视觉感知并与图形界面交互的智能系统。然而，仅靠监督微调无法处理长时程信用分配、分布偏移和不可逆环境中的安全探索问题，这使得强化学习（Reinforcement Learning, RL）成为推动自动化发展的核心方法论。在这项工作中，我们首次全面概述了RL与GUI智能体的交叉领域，并探讨了这一研究方向如何向数字居民演进。我们提出了一个原则性的分类法，将现有方法组织为离线RL、在线RL和混合策略，并辅以对奖励工程、数据效率和关键技术创新点的分析。我们的分析揭示了几个新兴趋势：可靠性与可扩展性之间的张力正推动着复合式、多层奖励架构的采用；GUI输入/输出延迟瓶颈正加速向基于世界模型的训练转变，这可以带来显著的性能提升；以及系统2式推理的自发涌现表明，当存在足够丰富的奖励信号时，可能不需要显式的推理监督。我们将这些发现提炼成一个涵盖过程奖励、持续RL、认知架构和安全部署的路线图，旨在指导下一代鲁棒的GUI自动化及其智能体原生基础设施的发展。
引用
@article{arxiv.2604.27955,
title = {GUI Agents with Reinforcement Learning: Toward Digital Inhabitants},
author = {Junan Hu and Jian Liu and Jingxiang Lai and Jiarui Hu and Yiwei Sheng and Shuang Chen and Jian Li and Dazhao Du and Song Guo},
journal= {arXiv preprint arXiv:2604.27955},
year = {2026}
}
备注
Project Page: https://github.com/Steve2457/Awesome-RL-GUI-Agents