关闭开关并非必然
人工智能
2025-02-14 v1
摘要
Hadfield-Menell等人(2017)提出了Off-Switch Game模型，描述人类与AI合作时AI代理始终让位于人类，因为他们对我们的偏好持有不确定态。我解释了AI代理可能不让位的两个原因。首先，AI代理可能不重视学习。其次，即使AI代理重视学习，他们也可能不确定学习到我们的实际偏好。
引用
@article{arxiv.2502.08864,
title = {Off-Switching Not Guaranteed},
author = {Sven Neth},
journal= {arXiv preprint arXiv:2502.08864},
year = {2025}
}
备注
Forthcoming in Philosophical Studies