GroupGPT:面向多用户聊天助手的高效且隐私保护的代理框架
计算与语言
2026-04-10 v3
摘要
最近的大语言模型(LLM)进展使得聊天机器人日益强大。 但大多数现有系统专注于单用户场景,难以适应多用户群体聊天互动,代理需要在复杂且不断演变的上下文下进行更主动且准确的干预。 现有方法通常依赖 LLM 进行干预推理和响应生成,导致 token 消耗高、可扩展性受限以及潜在隐私风险。 为应对这些挑战,我们提出了 GroupGPT,一个面向多用户聊天助手的高效且隐私保护的代理框架。 GroupGPT 采用边云模型协作架构,将干预时机与响应生成解耦,实现高效且准确的决策,同时通过设备端处理敏感信息来保护用户隐私。 框架还支持多模态输入,包括表情包、图片、视频和语音消息。 为支持评估干预时机准确性和响应质量,我们进一步引入了 MUIR,一个用于多用户聊天助手干预推理的基准数据集。 MUIR 包含 2500 条带有干预标签和理由的群聊片段。 我们在 MUIR 上评估了一系列模型,从开源到专有变体,包括 LLM 和其较小版本。 大量实验表明,GroupGPT 生成的响应准确且时机判断得当,在 LLM 基于评估中平均得分达 4.72/5.0,且在多样化的群聊场景中受到用户青睐。 此外,GroupGPT 相对于基线方法可减少最高可达 3 倍的 token 使用,同时在云端传输前对用户消息进行隐私清洗。 代码已公开:https://github.com/Eliot-Shen/GroupGPT
引用
@article{arxiv.2603.01059,
title = {GroupGPT: A Token-efficient and Privacy-preserving Agentic Framework for Multi-User Chat Assistant},
author = {Zhuokang Shen and Yifan Wang and Hanyu Chen and Yunhang Shen and Wenxuan Huang and Gaoqi He and Jiao Xie and Rongrong Ji and Shaohui Lin},
journal= {arXiv preprint arXiv:2603.01059},
year = {2026}
}
备注
14 pages, 8 figures