规范审议：机器学习权衡的社会技术视角

本文探讨了人工智能（AI）中两个突出的形式化权衡——预测准确性与公平性之间的权衡，以及预测准确性与可解释性之间的权衡。随着政策制定者寻求理解AI工具在社会应用中可能产生的价值张力，这些权衡已成为规范和监管讨论的中心焦点。主流观点认为这些形式化权衡直接对应于潜在社会价值之间的张力，意味着这些社会目标之间存在不可避免的冲突。在本文中，我通过引入一种社会技术方法来考察权衡的价值意蕴，从而挑战这一普遍观点。具体而言，我确定了三个关键考量因素——有效性与工具相关性、组合性以及动态性——用于情境化和刻画这些意蕴。这些考量表明，模型权衡与对应价值之间的关系取决于关键的选择和假设。至关重要的是，为了某一模型属性而明智地牺牲另一属性，实际上可以同时促进两组对应的价值。因此，所提出的社会技术视角表明，我们可以且应该追求比主流观点所暗示的更高的认知与伦理可能性，同时为实现这些结果提供实践指导。最后，我阐明了这一视角对AI设计与治理的更广泛意蕴，强调了在AI生命周期中拓宽规范参与的必要性，开发对社会技术考量敏感的法律与审计工具，并重新思考跨学科合作在培养负责任AI人才队伍中的重要作用与适当结构。