引导情感感知人工智能发展的伦理框架

近期人工智能研究与部署的快速进展引发了关于具有社会与情感智能的 AI 潜在影响的更多讨论。问题不在于研究能否产出此类情感感知 AI，而在于何时能够。当机器——以及它们所服务的企业与政府——能够“读取”人们的思想与情绪时，这对社会意味着什么？此类 AI 的开发者与运营者应当做什么，又不应做什么？本文旨在预先应对这些发展的一些潜在影响，并提出一套用于评估情感感知 AI 的（道德与）伦理后果的指导原则，以引导研究人员、行业从业者与政策制定者。我们提出了一种多利益相关方分析框架，将 AI 开发者相对于部署此类 AI 的实体（我们称之为运营者）的伦理责任区分开来。我们的分析得出两大支柱，厘清了各利益相关方的责任：可证有益性（Provable Beneficence），建立在证明 AI 有效性之上；以及负责任管理（Responsible Stewardship），用以规范数据及基于数据所作决策的负责任收集、使用与存储。最后我们针对研究人员、开发者、运营者以及监管者与立法者给出了建议。