负责任任务自动化：赋能大语言模型作为负责任任务自动器
人工智能
2023-12-05 v2 计算与语言
摘要
大语言模型（LLMs）近期的成功标志着向通用人工智能迈出了令人印象深刻的步伐。它们已展现出在用户指令下自动完成任务的良好前景，充当类脑协调器。当我们委托机器自动完成越来越多任务时，相关风险也将显现。一个重大问题随之而来：在作为个人副驾帮助人类自动化任务时，我们如何使机器行为负责任？本文从可行性、完整性与安全性角度深入探究该问题。具体而言，我们提出负责任任务自动化（ResponsibleTA）作为基础框架，以赋能基于 LLM 的协调器与执行器之间负责任协作进行任务自动化，具备三种能力：1) 预测执行器对命令的可行性；2) 验证执行器的完整性；3) 增强安全性（例如保护用户隐私）。我们进一步提出并比较了实现前两种能力的两种范式。其一是通过提示工程利用 LLM 自身的通用知识，其二是采用特定领域可学习模型。此外，我们引入局部记忆机制以实现第三种能力。我们在 UI 任务自动化上评估了所提出的 ResponsibleTA，并希望它能引起更多关注，以确保 LLM 在多样场景中更负责任。
引用
@article{arxiv.2306.01242,
title = {Responsible Task Automation: Empowering Large Language Models as Responsible Task Automators},
author = {Zhizheng Zhang and Xiaoyi Zhang and Wenxuan Xie and Yan Lu},
journal= {arXiv preprint arXiv:2306.01242},
year = {2023}
}