C-MOP：集成动量与边界感知聚类以提升提示演化
计算与语言
2026-02-12 v1
摘要
自动化提示优化是提升大语言模型（LLM）性能的有前景的方向。然而，现有方法常因噪声和冲突的更新信号而受限。本研究提出C-MOP（基于聚类的动量优化提示），通过边界感知对比采样（BACS）和动量引导语义聚类（MGSC）来稳定优化。具体而言，BACS利用批级信息挖掘三元特征——硬负样本、锚点和边界配对——以精确刻画正负提示样本的典型表示和决策边界。为解决语义冲突，MGSC引入一种带时间衰减的文本动量机制，从而从跨迭代的梯度波动中提炼持久共识。大量实验表明，C-MOP consistently优于PromptWizard和ProTeGi等SOTA基线，平均提升1.58%和3.35%。值得注意的是，C-MOP使一个仅具3B激活参数的通用LLM能够超越70B规模特定领域稠密LLM，凸显其在驱动精确提示演化方面的有效性。代码已公开：https://github.com/huawei-noah/noah-research/tree/master/C-MOP
引用
@article{arxiv.2602.10874,
title = {C-MOP: Integrating Momentum and Boundary-Aware Clustering for Enhanced Prompt Evolution},
author = {Binwei Yan and Yifei Fu and Mingjian Zhu and Hanting Chen and Mingxuan Yuan and Yunhe Wang and Hailin Hu},
journal= {arXiv preprint arXiv:2602.10874},
year = {2026}
}
备注
The code is available at https://github.com/huawei-noah/noah-research/tree/master/C-MOP