增强基于LLM的AI自动化代理中的信任：新考量与未来挑战
人工智能
2023-08-11 v1
摘要
文献中对AI代理信任的研究已十分广泛，使我们在该领域的理解取得显著进展。然而，大语言模型（LLMs）的快速发展以及基于LLM的AI代理框架的出现，为进一步研究带来了新的挑战与机遇。在流程自动化领域，新一代基于AI的代理已经出现，能够执行复杂任务。同时，通过用户友好的无代码工具和训练机制，自动化构建过程对业务用户变得更加可及。本文探讨这些新挑战与机遇，分析现有文献中讨论的AI代理信任的主要方面，并识别与这一新一代自动化代理相关的具体考量与挑战。我们还评估了此类新兴产品如何应对这些考量。最后，我们强调了研究界在这一不断演进的格局中应当解决的若干挑战。
引用
@article{arxiv.2308.05391,
title = {Enhancing Trust in LLM-Based AI Automation Agents: New Considerations and Future Challenges},
author = {Sivan Schwartz and Avi Yaeli and Segev Shlomov},
journal= {arXiv preprint arXiv:2308.05391},
year = {2023}
}
备注
Accepted to the First International Workshop on the Future of No-Code Digital Apprentices