PromptWise: 面向成本感知的生成模型提示词在线学习
机器学习
2025-11-04 v2 人工智能
摘要
生成式 AI 的快速发展为用户提供了多种针对不同提示词的优质模型。选择模型时，用户不仅要关注其性能，还要权衡服务成本。然而，现有模型选择方法通常侧重性能，忽略成本差异。本文引入 PromptWise，一个面向成本感知的在线学习框架，用于在生成模型中分配提示词。PromptWise 估算提示词-模型匹配度，以选择预期能提供满意输出且最具成本效益的模型。不同于每条提示词一次性决策的标准情境式臂带策略，PromptWise 采用成本感知臂带结构，允许对单条提示词进行顺序模型分配以降低总体服务成本。通过代码生成和翻译等数值实验，我们展示了 PromptWise 在保持与基线选择方法相当性能的同时，能显著降低成本。代码已公开: github.com/yannxiaoyanhu/PromptWise。
引用
@article{arxiv.2505.18901,
title = {PromptWise: Online Learning for Cost-Aware Prompt Assignment in Generative Models},
author = {Xiaoyan Hu and Lauren Pick and Ho-fung Leung and Farzan Farnia},
journal= {arXiv preprint arXiv:2505.18901},
year = {2025}
}
备注
39 pages