成长优先,关怀次之? tracing LLM 价值偏好在日常困境中的分布
计算机与社会
2026-02-05 v1 人工智能
计算与语言
摘要
人们越来越多地在人类同行和基于大语言模型(LLM)聊天机器人上寻求建议。此类建议很少涉及识别单一正确答案;相反,它们通常需要在不同价值之间进行权衡。我们旨在描述 LLM 在不同建议寻求情境下如何处理价值权衡。首先,我们使用来自四个建议导向子 Reddit 的精选数据集,检视建议寻求背后的价值权衡结构。采用自下而上的方法,我们通过聚合来自 individual advice options 的细粒度价值到更高层次的价值类别,归纳构建分层价值框架。我们构建价值共现网络,以刻画价值在困境中的共现情况,发现不同建议寻求情境中存在显著的价值权衡结构异质性:一个以女性为焦点的子 Reddit 显示最高的网络密度,表明价值冲突更为复杂;女性、男性和友谊相关的子 Reddit 显示高度相关的价值冲突模式,核心围绕与安全相关的紧张关系(安全 vs. 尊重/连接/承诺);相比之下,职业建议形成独特的结构,其中安全常与自我实现和成长发生冲突。随后,我们评估 LLM 的价值偏好是否符合这些困境,发现无论模型或情境,LLM 都始终优先考虑与探索与成长相关的价值,而非善意与连接相关的价值。这一系统性偏斜的价值取向凸显了 AI 中介建议潜在的价值同质化风险,引发关于此类系统如何在规模化影响决策和规范性结果的担忧。
引用
@article{arxiv.2602.04456,
title = {Growth First, Care Second? Tracing the Landscape of LLM Value Preferences in Everyday Dilemmas},
author = {Zhiyi Chen and Eun Cheol Choi and Yingjia Luo and Xinyi Wang and Yulei Xiao and Aizi Yang and Luca Luceri},
journal= {arXiv preprint arXiv:2602.04456},
year = {2026}
}
备注
dataset available at https://github.com/Renesmeeczy/Value-Trade-off-in-Reddit-Dilemmas