规则与现实之间的关系：LLM道德判断的情境灵敏性

人类的道德决策高度依赖情境。然而，LLM 道德研究主要聚焦于固定情景，缺乏对情境灵敏性的系统性考察。为填补这一空白，我们引入 Contextual MoralChoice 数据集，包含系统性情境变体的道德困境，变体包括道德心理学中已知会影响人类判断的情境因素：结果主义情境、情感情境和人际关系情境。我们对 22 个 LLM 进行评估，发现 nearly all 模型都具有情境灵敏性，能够对违反规则的行为作出判断。与人类调查结果比较发现，模型与人类对不同情境变体的敏感性表现出显著差异，且在基准情境下与人类判断一致的模型，不一定在其情境灵敏性上与人类一致。这引出了控制情境灵敏性的问题，我们通过一种激活引导 (activation steering) 方法来实现对模型情境灵敏性的可靠增减。