将价值对齐与伦理原则相 grounding
人工智能
2019-07-15 v1 计算机与社会
机器学习
摘要
在人工智能价值对齐（VA）系统的发展中，一个重要步骤是理解价值如何与事实相互关联。未来的 VA 系统设计者将需要采用一种混合方法，使伦理推理与经验观察在机器行为中成功相互关联。在本文中，我们指出了 AI 讨论者和设计者所忽视的关于这种相互关联的两个问题。第一个问题是，许多 AI 设计者无意中犯了道德哲学家所称的“自然主义谬误”的一种版本，即他们试图从“是”推导出“应当”。我们说明了这种情况何时以及为何发生。第二个问题是，AI 设计者采用的训练例程未能在伦理原则与事实的整合中充分模拟人类伦理推理。利用量化模态逻辑的概念，我们进而提出了一种方法，有望通过将伦理原则与关于事态的命题相连接来模拟人类的伦理推理。
引用
@article{arxiv.1907.05447,
title = {Grounding Value Alignment with Ethical Principles},
author = {Tae Wan Kim and Thomas Donaldson and John Hooker},
journal= {arXiv preprint arXiv:1907.05447},
year = {2019}
}