从价值观到框架：对自主AI从业者伦理推理的定性研究

自主人工智能系统是能够在最少人类监督下追求复杂目标的自主技术，正迅速成为AI的下一个前沿。虽然这些系统有望带来生产力的重大提升，但也引发了新的伦理挑战。先前的研究考察了不同人群如何优先考虑负责任AI的价值观，但对于从业者如何实际推理设计这些自主系统所固有的权衡，我们知之甚少。本文通过围绕自主AI部署中的结构化困境进行定性访谈，调查了AI从业者的伦理推理。我们发现，从业者的回应不仅反映了价值偏好，而且与三种不同的推理框架相一致。首先是客户中心框架，其中选择由商业利益、合法性和用户自主性来证明。其次是设计中心框架，强调技术保障和系统约束。第三是伦理中心框架，优先考虑超越合规的社会福祉和道德责任。我们认为，这些框架为应对伦理权衡提供了不同且必要的见解。因此，自主AI的提供者必须超越一般原则，并积极管理这些不同推理框架在其决策过程中的代表性，以确保稳健的伦理结果。