动态缩放激活引导
机器学习
2025-12-04 v1 人工智能
摘要
激活引导已作为一种强大方法出现，用于引导生成模型的行为走向期望的结果，如毒性缓解。然而，大多数现有方法在所有输入上均匀施加干预，在不需要引导时降低模型性能。我们引入了动态缩放激活引导(DSAS)，一种与方法无关的引导框架，将何时引导与如何引导解耦。DSAS自适应地调节现有引导变换在各层和输入上的强度，仅在检测到不良行为时才进行强力干预。在生成时，DSAS计算上下文相关的缩放因子，选择性地调整任何引导方法的强度。我们还展示了DSAS如何与引导函数一起进行端到端联合优化。当与现有引导方法结合使用时，DSAS始终改善了相对于单独引导的帕累托前沿，在毒性缓解和效用保持之间实现了更好的权衡。我们进一步通过将其应用于文本到图像扩散模型来展示DSAS的通用性，展示了自适应引导如何调节特定概念。最后，DSAS引入了极小的计算开销，同时提高了可解释性，精确定位哪些token需要引导以及引导的程度。
引用
@article{arxiv.2512.03661,
title = {Dynamically Scaled Activation Steering},
author = {Alex Ferrando and Xavier Suau and Jordi Gonzàlez and Pau Rodriguez},
journal= {arXiv preprint arXiv:2512.03661},
year = {2025}
}