按设计实现自主性：在AI决策支持中保持人类自主性

人工智能系统日益支持人类在专业、技能型和个人活动中的决策。尽管已有研究考察了人工智能对人类自主性的全球性影响，但人工智能对特定领域自主性的影响——即在特定技能或专业领域内进行自主行动的能力——仍未得到充分研究。我们分析了人工智能决策支持系统如何影响两个关键的特定领域自主性组成部分：技能专业能力（在自身领域内作出明智判断的能力）和真实价值形成（形成真实领域相关价值和偏好的能力）。通过与先前研究相交叉并分析医疗、金融和教育等领域的实证案例，我们展示了可靠故障指示缺失以及潜在无意识价值转移如何在即时和长期内侵蚀特定领域的自主性。随后，我们发展了一套建设性的自主性保护性人工智能支持系统框架。我们提出了一系列具体的社会技术设计模式——包括严谨的角色规定、实施否决机制以及支持反思性实践——以帮助在利用人工智能功能的同时保持特定领域的自主性。该框架为开发在特定行动领域中增强而非削弱人类主体性的人工智能系统提供了具体指导。