Fints：面向LLM推理时个性化的最高效方法——基于细粒度实例量身定制的引导

大语言模型（LLM）的快速演进加剧了对有效个性化技术的需求，这类技术能够将模型行为适配到 individual user preferences 上。尽管非参数方法利用 LLM 的 in-context learning 能力，但近期出现的可参数化适应方法（包括个性化参数高效微调和奖励建模）却面临着在处理动态 user patterns 和高数据稀疏场景时的局限——由于适应性和数据效率低下。为此，我们提出一种细粒度且面向实例量身定制的引导框架，动态从 user data 生成样本级干扰向量，并注入模型的前向传播中进行个性化适应。我们的方法引入两个关键技术创新：一种细粒度引导组件通过挂钩注意力和 MLP 层的激活来捕获细微信号，以及一种 input-aware 聚合模块将这些信号综合为情境相关的增强。该方法表现出高度的灵活性和数据效率，在快速变化的分布和高数据稀疏场景中表现突出。此外，本方法与现有方法是正交的，可作为兼容不同个性化技术的插件组件。广泛的实验覆盖多种场景——包括短至长文本生成和 web function calling——验证了该方法的有效性和兼容性。结果表明，在快速变化的环境中，我们的方法在保持跨不同交互模式和上下文长度鲁健性的同时，显著提升了个性化性能。实现代码已公开于 https://github.com/KounianhuaDu/Fints。