DRO-InstructZero：分布鲁棒提示优化
机器学习
2025-10-20 v1 人工智能
计算与语言
摘要
大型语言模型对提示措辞高度敏感。然而，流行的自动提示搜索方法（包括InstructZero）常因优化单一评估分布的期望性能而在分布迁移和对抗评估下性能下降。因此，本文提出DRO-InstructZero，将零样本提示优化形式化为鲁棒贝叶斯优化。具体而言，-散度球定义评估分布围绕的模糊集，鲁棒获取规则最大化最坏情况期望效用，同时保留贝叶斯搜索的查询效率。搜索显式针对分布迁移下的可靠性而非平均行为。实验遵循指令归纳协议，跨形式化改写、代码调试与翻译等任务保持匹配查询预算。例如，在BIG-Bench信息-形式改写中准确率从61.3%提升至85-90%，绝对提升约25-30分。自动调试在域外场景提升约25分。而稳健任务（如因果关系）保持在96%以上，表明无分布内损失。改进在不同发散选择与解码温度下均稳健。总体而言，DRO-InstructZero将分布鲁棒优化与提示学习相结合，提供一种即插即用且通用的可靠、可迁移的提示对齐方法，应对现实不确定性。
引用
@article{arxiv.2510.15260,
title = {DRO-InstructZero: Distributionally Robust Prompt Optimization for Large Language Models},
author = {Yangyang Li},
journal= {arXiv preprint arXiv:2510.15260},
year = {2025}
}
备注
Preprint. Under review at ICLR 2026. 11 pages, 2 figures