面向大语言模型属性对齐的自适应多子空间表示引导
人工智能
2026-04-28 v4
摘要
激活引导通过直接操控大语言模型的内部激活来控制其行为，是一个有前景的方法。然而，大多数现有方法难以同时操控多个属性，常导致干扰和不可取的权衡。为此，我们提出了多子空间表示引导（Multi-Subspace Representation Steering, MSRS）框架，通过子空间表示微调实现高效的多属性操控。MSRS通过为每个属性分配正交子空间来减少属性间的干扰，将其影响在模型表示空间中隔离。MSRS还采用混合子空间组合策略：结合属性特定子空间用于独特的操控方向，以及用于共用操控方向的共享子空间。动态加权函数学习高效地集成这些组件以实现精确控制。在推理期间，MSRS引入基于标记的操控机制，动态识别并干预最相关的语义标记，实现细粒度的行为调制。实验结果表明，MSRS显著减少属性冲突，跨越多种属性均超越现有方法，并在多样化的下游任务中取得良好泛化。
引用
@article{arxiv.2508.10599,
title = {Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language Models},
author = {Xinyan Jiang and Lin Zhang and Jiayi Zhang and Qingsong Yang and Guimin Hu and Di Wang and Lijie Hu},
journal= {arXiv preprint arXiv:2508.10599},
year = {2026}
}