人工智能中的模仿式与锚定式价值对齐
人工智能
2018-10-29 v1
摘要
“价值对齐”（Value Alignment, VA）被认为是人工智能研究的优先事项之一。现有研究大多关注“价值对齐”中的“对齐（A）”部分而非“价值（V）”部分。本文通过强调 VA 的“价值”一侧，并从价值论中的要求尤其是避免“自然主义谬误”——一个主要的认识论警示——的视角来分析 VA，以纠正这一忽视。本文首先区分了两种截然不同的 VA 形式：“模仿式”与“锚定式”。随后讨论了哪种 VA 方法能更好地避免自然主义谬误。讨论揭示了忽视自然主义谬误含义的 VA 方法所面临的绊脚石。这类问题在模仿式 VA 中更为严重，因为模仿过程所模仿的人类行为可能达到也可能未达到正确伦理行为的水平。相比之下，包括混合 VA 在内的锚定式 VA 因以内在价值的规范性概念为对齐锚点，对未来 VA 更具前景。
引用
@article{arxiv.1810.11116,
title = {Mimetic vs Anchored Value Alignment in Artificial Intelligence},
author = {Tae Wan Kim and Thomas Donaldson and John Hooker},
journal= {arXiv preprint arXiv:1810.11116},
year = {2018}
}