感质优化

本报告探讨了这样一个假设性问题：若干当前或未来的 AI 系统拥有感质经验（如疼痛或愉悦），该如何进行优化。我们假设 AI 系统可能未来拥有感质——并且应在绩效指标之外考虑这些主观体验的质量。随后，我们提出受强化学习公式和心灵哲学理论启发的具体数学问题设定，并呈现初始方法与性质。这些性质使我们能够细化问题设定，最终提出促进强化的方法。