扁鹊：一种具有灵活技能编排的在线系统运维智能体框架

大规模在线引擎系统（例如搜索、推荐和广告）的运维需要大量人力用于发布监控、告警响应和根因分析。尽管基于大语言模型的智能体本质上适合此类运维场景，但阻碍其实际部署的关键瓶颈不在于推理，而在于编排能力——具体而言，是为每个单独的运维事件精确选择相关数据（包括指标、日志和变更事件）和适用知识（包括手册定义的规则和经验得出的实践者经验）。不加区分地输入所有信号会导致信息稀释和幻觉，而手动策划事件到（数据、知识）的映射在每天数十次发布的情况下是不可行的。在此，我们提出扁鹊，一个具有三项贡献的智能运维框架：(i) 统一运维范式，将日常例行运维操作抽象为三种规范模式：发布拦截、主动巡检和告警根因分析；(ii) 灵活的技能编排，每个预定义的技能明确规定了每个特定上下文所需的数据和运维知识。这些技能可以由大语言模型智能体自动生成和更新，也可以由值班工程师通过自然语言指令进行迭代优化。(iii) 统一的自演化机制，其中每个修正信号启用两条并行的演化路径：将事件记忆提炼为知识，以及有针对性地优化技能。部署在快手的电商搜索引擎上，扁鹊将告警量减少了75%，实现了80%的根因分析准确率，将平均解决时间缩短了50%以上，并在离线评估中达到了99.0%的通过率。代码位于https://github.com/benchen4395/BianQue_Assistant。