AI 中介的 consequential 决策中的选择错觉

借鉴 Ullmann-Margalit 的“选择(opting)”概念——即具有变革性、不可逆转且受制于被排除选项的替代方案——我们指出当前 AI 系统提出了一个尚未被现有 AI 伦理充分捕捉的深刻伦理问题：选择错觉。在选择错觉中，个人和群体遇到的都是对有意义的 consequential 选择的欺骗性外观，而实现真正能力所必需的 agency 却被削弱。反对将 AI 主要视为对既定目标的优化器的做法，我们主张应评估 AI 系统是否保护并培养对抗选择错觉的 meta-capacity：通过社会和制度性支撑的 agentive capacity，其通过方式和目标可以被形成、争议、修订和拥有。这一重新框定尤其紧急，因为不利群体最不具备承受选择错觉成本的能力，当 AI 中介的决策路径误导行为和行动时。我们提出了三个规范性原则用于 AI 中介的 consequential 决策：存在主义诚实，承认预测的局限性；生态理性，将指导置于异构 lived ecologies 之中；反事实修复，当 AI 中介的决策路径失败时，承认并修复被排除的选项。