中文

位置:向量提示界面应公开以实现大型语言模型的定制化

计算与语言 2026-03-05 v1

摘要

随着大型语言模型(LLM)从研究原型转向实际系统,定制化已成为核心瓶颈。虽然文本提示已用于定制 LLM 行为,但我们认为仅凭文本提示并不构成可供可扩展、稳定且仅用于推理的定制化控制界面。本立场论文认为,模型提供商应将向量提示输入(vector prompt inputs)作为公开接口的一部分,以实现 LLM 的定制化。我们通过诊断性证据支持此观点,表明向量提示调谐在监督增加时仍持续改进,而文本基提示优化早期即饱和,且向量提示表现出稠密的全局注意力模式,指向一种不同于文本提示的控制机制。我们进一步讨论了在现实部署约束下,仅推理定制的重要性,以及在标准黑箱威胁模型下,公开向量提示是否必然显著增加模型泄露风险。我们总结着呼吁社区重新思考提示界面作为 LLM 定制核心组件的角色。

关键词

引用

@article{arxiv.2603.04292,
  title  = {Position: Vector Prompt Interfaces Should Be Exposed to Enable Customization of Large Language Models},
  author = {Liangwei Yang and Shiyu Wang and Haolin Chen and Rithesh Murthy and Ming Zhu and Jielin Qiu and Zixiang Chen and Juntao Tan and Jianguo Zhang and Zhiwei Liu and Wenting Zhao and Silvio Savarese and Caiming Xiong and Huan Wang and Shelby Heinecke},
  journal= {arXiv preprint arXiv:2603.04292},
  year   = {2026}
}