基于动态激活组合的大型语言模型多属性驾驶
计算与语言
2024-12-02 v1 人工智能
机器学习
摘要
激活驾驶方法已被证明可通过对模型中间表示进行加性干预来有效地控制语言模型的生成。然而，这些技术的评估目前仅限于单一条件属性和人工设置。本工作对 various 激活驾驶策略进行了全面评估，强调最佳参数取决于特定属性，以确保生成过程中的稳健效果。为此，我们提出了动态激活组合（Dynamic Activation Composition）方法，这是一种信息论方法，用于在生成过程中调节一个或多个属性的驾驶强度。我们在多属性驾驶实验中表明，该方法成功地在保持高水平条件控制的同时，最大限度地减少了对生成流畅度的影响。
引用
@article{arxiv.2406.17563,
title = {Multi-property Steering of Large Language Models with Dynamic Activation Composition},
author = {Daniel Scalena and Gabriele Sarti and Malvina Nissim},
journal= {arXiv preprint arXiv:2406.17563},
year = {2024}
}