情境引导：推断时可控的个性化
计算与语言
2025-02-07 v3 人工智能
摘要
为了提供高质量、个性化的响应，大型语言模型（LLM）必须有效地整合上下文——即特定于最终用户的个人、人口学和文化信息。例如，要求模型以"我是个 toddler"为上下文解释牛顿第二定律，产生的响应应与"我是位物理学家"的上下文不同。然而，在实践中利用上下文是一项细致且具挑战性的任务，往往取决于具体情境或用户群体。模型必须在提供特定、个性化的响应与保持通用适用性之间取得平衡。当前方法，如提示工程和微调，需要收集情境适当的响应作为示例，因而耗时且在不同情境下灵活性较差。本文引入了情境引导（CoS）——一种简单的、无训练的解码方法，通过放大上下文在下一个标记预测中的影响。CoS通过比较包含上下文与不包含上下文的两种LLM前向传递输出概率来计算情境影响。通过线性缩放情境影响，CoS允许实践者灵活控制不同用例的个性化程度。我们展示了CoS可应用于自回归LLM，能够在个性化推荐方面表现出色。此外，我们展示CoS可作为贝叶斯生成模型来推断和量化开放式文本之间的相关性，拓宽了其潜在应用范围。
引用
@article{arxiv.2405.01768,
title = {Context Steering: Controllable Personalization at Inference Time},
author = {Jerry Zhi-Yang He and Sashrika Pandey and Mariah L. Schrum and Anca Dragan},
journal= {arXiv preprint arXiv:2405.01768},
year = {2025}
}