上下文多目标优化：重新审视前沿AI系统中的目标

前沿AI系统在具有清晰、稳定且可验证目标的场景中表现最佳，例如代码生成、数学推理、游戏和单元测试驱动的任务。在开放式场景中，包括科学辅助、长程智能体、高风险建议、个性化和工具使用，它们仍然不够可靠，因为其中的相关目标是模糊的、依赖上下文的、延迟的或仅部分可观测的。我们认为，许多此类失败不仅仅是规模或能力的失败，而是目标选择的失败：系统优化局部可见的信号，却忽略了哪些目标应该支配该交互。我们将此问题形式化为\emph{上下文多目标优化}。在此设定下，系统必须考虑多个依赖上下文的目标，例如有用性、真实性、安全性、隐私性、校准、非操纵性、用户偏好、可逆性和利益相关者影响，同时确定哪些目标是激活的，哪些是软偏好，哪些必须作为硬或准硬约束。这些示例并非旨在作为详尽的分类法：不同的领域和部署场景可能激活不同的目标维度和不同的冲突解决程序。我们的框架将AI行为建模为在候选动作、目标估计、激活约束、利益相关者、不确定性和冲突解决程序上的依赖上下文的选择规则。我们概述了一条实现路径，基于分解的目标表示、上下文到目标的路由、分层约束、审议性策略推理、受控个性化、工具使用控制、诊断评估、审计和部署后修订。