将激活引导扩展至宽泛技能与多重行为

当前的大型语言模型具有危险的能力，这在未来可能会变得更加棘手。激活引导技术可用于降低这些能力带来的风险。在本文中，我们研究了激活引导在宽泛技能和多重行为方面的有效性。首先，通过比较降低通用编程能力和特定 Python 能力的效果，我们发现引导宽泛技能与引导窄技能相比具有竞争力。其次，我们引导模型在其他行为中变得更加或更不短视以及追求财富。在我们的实验中，将多种不同行为的引导向量组合成一个引导向量在很大程度上是不成功的。另一方面，在模型中的不同位置同时注入单独的引导向量则很有前景。