AUTONODE:一种用于认知 GUI 自动化的神经图形自学习引擎
人工智能
2024-05-28 v2 计算机视觉与模式识别
摘要
在大型语言模型 (LLM) 最新进展中,已出现能够通过增强认知能力和复杂推理来解决机器人过程自动化 (RPA) 挑战的智能体。这为目标实现的可扩展性和类人适应性开辟了新时代。在此背景下,我们提出 AUTONODE(通过在线神经图形操作和深度探索实现自主用户界面转换)。AUTONODE 采用先进的神经图形技术,以实现对 web 界面进行自主导航和任务执行,从而无需预定义脚本或人工干预。我们的引擎赋予智能体理解和实施复杂工作流程的能力,能够在动态 web 环境中实现前所未有的效率。我们的 methodology 将认知功能与机器人自动化相结合,使 AUTONODE 具备从经验中学习的能力。我们集成了探索模块 DoRA(用于图检索 Agent 的发现和图谱映射操作),它在构建引擎使用的知识图谱方面起着关键作用,以实现最小监督下的目标优化。AUTONODE 的灵活性和有效性通过一系列实验得以证明,突出其在处理多样化 web 任务方面的熟练功夫,涵盖数据提取到交易处理等各类任务。
引用
@article{arxiv.2403.10171,
title = {AUTONODE: A Neuro-Graphic Self-Learnable Engine for Cognitive GUI Automation},
author = {Arkajit Datta and Tushar Verma and Rajat Chawla and Mukunda N. S and Ishaan Bhola},
journal= {arXiv preprint arXiv:2403.10171},
year = {2024}
}
备注
Accepted in MIPR-2024