HuixiangDou: 基于大语言模型技术辅助的群聊场景解决方案
计算与语言
2024-04-15 v2
摘要
本文介绍了HuixiangDou，一个由大语言模型（LLM）驱动的技术助手。该系统旨在为算法开发者提供关于开源算法项目（如OpenMMLab中的计算机视觉和深度学习项目）问题的深刻回答。我们进一步探索了将该助手集成到即时通讯工具（如微信和飞书）的群聊中。通过多次迭代改进和试验，我们开发了一个复杂的技术聊天助手，能够有效回答用户的技术问题，同时避免消息泛滥。本文的贡献包括：1）专门为群聊场景设计算法流程；2）验证text2vec在任务拒绝中的可靠性能；3）识别LLM在技术助手类产品中的三个关键需求，即评分能力、上下文学习和长上下文。我们已在Github（https://github.com/internlm/huixiangdou）、OpenXLab（https://openxlab.org.cn/apps/detail/tpoisonooo/huixiangdou-web）和YouTube（https://youtu.be/ylXrT-Tei-Y）上提供了源代码、安卓应用和网络服务，以帮助未来的研究和应用。HuixiangDou适用于即时通讯工具中的任何群聊。
引用
@article{arxiv.2401.08772,
title = {HuixiangDou: Overcoming Group Chat Scenarios with LLM-based Technical Assistance},
author = {Huanjun Kong and Songyang Zhang and Jiaying Li and Min Xiao and Jun Xu and Kai Chen},
journal= {arXiv preprint arXiv:2401.08772},
year = {2024}
}
备注
13 pages, 4 figures