负责任AI意识研究原则

近期研究表明，现在或在近期可能可以构建具备意识的AI系统。拥有意识的AI系统或应被给予道德考虑，且大量具备意识的系统可能被创建并导致其受苦。此外，AI系统或AI生成的字符可能日益给人以意识的印象，导致关于其道德地位的争论。从事AI研究的组织必须建立原则和政策，以指导研究和部署选择以及公共交流涉及意识。即使组织选择不研究AI意识本身，仍需要配备政策，因为开发高级AI系统的人员风险无意中创建具备意识的实体。负责任的研究和部署实践对于解决这一可能性至关重要。我们提出了五项负责任研究的原则，认为研究组织应自愿并公开承诺此类原则。我们的原则涉及研究目标和程序、知识共享和公共交流。