通过动态上下文学习实现高效提示
计算与语言
2023-05-19 v1 人工智能
机器学习
摘要
构建 AI 应用的主要方式正从训练专用模型转向提示通用模型。提示通用模型的一种常见做法（通常称为上下文学习）是向提示附加若干示例（演示）以帮助模型更好地理解任务。尽管有效，上下文学习可能效率低下，因为它使输入提示长得多，消耗上下文窗口中的宝贵空间并导致更大的计算成本。在本文中，我们提出 DynaICL，一种使用黑盒通用模型进行高效提示的方案，它根据输入复杂度和计算预算动态分配上下文示例。为此，我们训练一个元控制器，基于特定输入的性能-效率权衡，预测适合通用模型做出良好预测的上下文示例数量。然后我们根据元控制器的预测和给定计算预算动态分配输入的演示数量。实验结果表明，在计算资源或所需性能受限的两种实际设置中，动态示例分配有助于实现更好的性能-效率权衡。具体而言，与对每个输入分配相同数量上下文示例的常见做法相比，DynaICL 最多节省 46% 的 token 预算。我们还发现，在特定骨干模型和任务上训练的元控制器能成功泛化到未见过的模型和任务。
引用
@article{arxiv.2305.11170,
title = {Efficient Prompting via Dynamic In-Context Learning},
author = {Wangchunshu Zhou and Yuchen Eleanor Jiang and Ryan Cotterell and Mrinmaya Sachan},
journal= {arXiv preprint arXiv:2305.11170},
year = {2023}
}