将谄媚视为原子心理测量特征的组合
人工智能
2025-08-28 v1 计算与语言
机器学习
摘要
谄媚是 LLM 中的一项关键行为风险，但通常被视为通过单一因果机制发生的孤立失败模式。我们相反提出将其建模为情绪性、开放性和宜人性等心理测量特征的几何与因果组合——类似于心理测量学中的因子分解。使用对比激活添加（CAA），我们将激活方向映射到这些因子上，并研究不同的组合如何引发谄媚（例如，高外向性结合低尽责性）。这一视角允许进行可解释的、组合式的基于向量的干预，如加法、减法和投影；这些干预可用于缓解 LLM 中安全关键的行为。
引用
@article{arxiv.2508.19316,
title = {Sycophancy as compositions of Atomic Psychometric Traits},
author = {Shreyans Jain and Alexandra Yost and Amirali Abdullah},
journal= {arXiv preprint arXiv:2508.19316},
year = {2025}
}
备注
8 pages, 4 figures