PrefPalette：基于潜在属性的个性化偏好建模
人工智能
2025-07-21 v1
摘要
个性化AI系统需要理解用户偏好的原因，而不仅仅是偏好本身——然而，当前的偏好模型通常将人类判断视为一个黑箱。我们引入了PrefPalette，一个将偏好分解为属性维度，并以人类可解释的方式针对不同社会社群价值观定制其偏好预测的框架。PrefPalette通过两种方式实现了被称为多属性决策的认知科学原理：(1) 一个可扩展的反事实属性合成步骤，涉及生成合成训练数据以隔离单个属性效应（例如，正式性、幽默感、文化价值观），以及 (2) 基于注意力的偏好建模，学习不同社会社群如何动态地加权这些属性。这种方法超越了聚合偏好建模，捕捉了驱动人类判断的多样化评估框架。当在来自在线平台Reddit的45个社会社群上进行评估时，PrefPalette的平均预测准确率比GPT-4o高出46.6%。除了原始预测能力的提升，PrefPalette还揭示了直观的、特定于社群的画像：学术社群优先考虑冗长性和刺激性，冲突导向的社群重视讽刺和直接性，而支持型社群则强调同理心。通过对人类判断的属性中介结构进行建模，PrefPalette提供了卓越的偏好建模以及透明、可解释的见解，并朝着更可信、更具价值意识的个性化应用迈出了第一步。
引用
@article{arxiv.2507.13541,
title = {PrefPalette: Personalized Preference Modeling with Latent Attributes},
author = {Shuyue Stella Li and Melanie Sclar and Hunter Lang and Ansong Ni and Jacqueline He and Puxin Xu and Andrew Cohen and Chan Young Park and Yulia Tsvetkov and Asli Celikyilmaz},
journal= {arXiv preprint arXiv:2507.13541},
year = {2025}
}
备注
17 pages, 6 tables, 5 figures