ValuePilot：用于价值驱动决策的两阶段框架
人工智能
2025-12-17 v1
摘要
个性化决策对于人机交互至关重要，使 AI 智能体能够按照个体用户的价值偏好行事。随着 AI 系统扩展到现实应用中，在任务完成或集体对齐之外适应个性化价值已成为一项关键挑战。我们通过提出一种面向价值驱动的个性化决策方法来解决这一问题。人类价值是稳定的、可迁移的信号，支持跨情境的一致性和可泛化行为。与由外部奖励和激励驱动的任务导向范式相比，价值驱动决策增强了可解释性，并使智能体即使在新颖场景中也能适当行动。我们提出了 ValuePilot，一个包含数据集生成工具包（DGT）和决策模块（DMM）的两阶段框架。DGT 通过人机 LLM 协作流程构建多样化的、带有价值标注的场景。DMM 学会根据个人价值偏好评估动作，从而实现上下文敏感的、个性化的决策。在先前未见过的场景上进行评估时，DMM 在与人类动作选择的对齐程度上优于 GPT-5、Claude-Sonnet-4、Gemini-2-flash 和 Llama-3.1-70b 等强 LLM 基线。我们的结果表明，价值驱动决策是构建可解释、个性化 AI 智能体的有效且可扩展的工程路径。
引用
@article{arxiv.2512.13716,
title = {ValuePilot: A Two-Phase Framework for Value-Driven Decision-Making},
author = {Yitong Luo and Ziang Chen and Hou Hei Lam and Jiayu zhan and Junqi Wang and Zhenliang Zhang and Xue Feng},
journal= {arXiv preprint arXiv:2512.13716},
year = {2025}
}
备注
Accepted at LAW Workshop, NeurIPS 2025