基于渐进式笔记记录与智能体反馈的客户支持增量式摘要

我们提出了一种面向客户支持智能体的增量式摘要系统，通过智能确定性地生成简洁要点笔记，以减少智能体的上下文切换开销和冗余审阅。我们的 method 将精调后的 Mixtral-8x7B 模型用于持续笔记生成，同时采用基于 DeBERTa 的分类器筛选平凡内容。智能体编辑不断细化在线笔记生成，并定期反馈至离线模型 retraining，形成 agent 编辑反馈闭环。该系统在生产环境中实现，较批量摘要将案件处理时间降低 3%，在高度复杂案件中降幅可达 9%，并获得调查显示的高满意度。这些结果表明，增量式摘要结合持续反馈能够在规模化环境中有效提升摘要质量和智能体生产力。