设计自主人工系统中的目标冲突
人工智能
2017-03-21 v1
摘要
关于人类自我调节的研究表明，人们同时持有许多目标，并拥有复杂的自我调节机制来处理这种目标冲突。人工自主系统可能也需要找到应对冲突目标的方法。事实上，不同目标之间错综复杂的相互作用可能对人工自主系统的设计以及长期安全性和稳定性至关重要。我讨论了人类自我调节系统的一些关键特征，以及如何将其应用于人工系统。此外，还探讨了目标冲突对人工自主系统可靠性和稳定性的影响，以及确保其与人类目标和伦理保持一致的问题。
引用
@article{arxiv.1703.06354,
title = {Goal Conflict in Designing an Autonomous Artificial System},
author = {Mark Muraven},
journal= {arXiv preprint arXiv:1703.06354},
year = {2017}
}