认真对待 AI 福利
计算机与社会
2024-11-05 v1 人工智能
神经元与认知
摘要
在本报告中，我们论证了在不久的将来，某些 AI 系统具有意识和/或稳健能动性的可能性是现实存在的。这意味着 AI 福利与道德患者地位——即拥有自身利益和道德重要性的 AI 系统——不再仅是科幻小说或遥远未来的议题，而是近期将面临的问题，AI 公司及其他相关方有责任开始认真对待它。我们同时建议 AI 公司及其他相关方采取三项早期措施：它们可以 (1) 承认 AI 福利是一个重要且棘手的问题（并确保语言模型输出亦然），(2) 开始评估 AI 系统是否存在意识与稳健能动性的证据，(3) 制定政策与程序，以适当程度的道德关怀对待 AI 系统。澄清一下，本报告的论点并非断定 AI 系统一定已经或将会具备意识、稳健能动性或其他道德重要性。相反，我们的论点是：围绕这些可能性存在实质性不确定性，因此我们需要提升对 AI 福利的理解，并增强就该问题作出明智决策的能力。否则，我们将面临显著风险，在 AI 福利决策上出现失误，要么错误地伤害了在道德上有重要性的 AI 系统，要么错误地关怀了并无道德地位的 AI 系统。
引用
@article{arxiv.2411.00986,
title = {Taking AI Welfare Seriously},
author = {Robert Long and Jeff Sebo and Patrick Butlin and Kathleen Finlinson and Kyle Fish and Jacqueline Harding and Jacob Pfau and Toni Sims and Jonathan Birch and David Chalmers},
journal= {arXiv preprint arXiv:2411.00986},
year = {2024}
}