应用于人工智能中价值学习的动态模型

人工智能（AI）开发领域的专家预测，智能系统与智能体的发展进展将重塑我们社会中的重要领域。然而，若此类进展未审慎、批判且反思性地推进，可能给人类带来负面后果。为此，该领域若干研究者已发展出稳健、有益且安全的 AI 概念，以维护人类与环境。当前，AI 研究领域的若干开放问题源于难以避免智能体与控制系统的非期望行为，同时难以准确指定我们真正希望此类系统执行的任务，尤其是当我们寻求智能体长期在多个领域行动的可能性时。鉴于我们不能期望 AI 仅因其智能便自发形成人类道德价值（如正交论题所述），使人工智能体的价值与人类价值对齐至关重要。或许该困难源于我们以表征性认知方法表达目标、价值与目的的方式。对此问题的一种解决方案是 Dreyfus 提出的动态路径，其现象学哲学表明人类在世存在的多方面经验无法被符号或联结主义认知方法良好表征，尤其在价值学习问题上。一种可能的路径是使用诸如 SED（情境化具身动力学）的理论模型来解决 AI 中的价值学习问题。