让 AI 中的权力变得可解释：分析、理解与重定向以实现 AI 中的伦理化
计算机与社会
2025-10-14 v1
摘要
在人工智能 (AI) 的技术实践中实现伦理正面面临着显著的挑战。为解决 AI 伦理实施效果不佳的问题，本文从解释型人工智能 (XAI) 技术在实际 AI 伦理实施中的独特视角出发，提出我们的诊断、分析与干预建议。我们首先描述了在解释型人工智能中 AI 伦理实施无效的现象（即“症状”），并通过四个案例进行实证分析。从“症状”出发，我们诊断出根本原因（即“疾病”）是 AI 社会技术系统中权力结构的功能失调与不平衡。这些权力结构由不公正且未受约束的权力主导，无法代表公众及最受影响社区的利益，也无法被伦理权力所制衡。基于对权力机制的理解，本文提出三项干预性建议，以应对根本原因，包括：1）使权力可被解释并受到制衡，2）重新构建 AI 与 AI 伦理的叙事与假设，以检验不公正的权力并反映公众的价值与利益，3）统一伦理实践与科学实践的努力，将伦理价值编码为技术标准、规范和方法，包括对 AI 技术实践进行批判性检讨与局限性分析。我们希望我们的诊断与干预性建议能为 AI 社区及公民社会在 AI 中的伦理与负责任实践的持续讨论与实施提供有用的参考。
引用
@article{arxiv.2510.10588,
title = {Making Power Explicable in AI: Analyzing, Understanding, and Redirecting Power to Operationalize Ethics in AI Technical Practice},
author = {Weina Jin and Elise Li Zheng and Ghassan Hamarneh},
journal= {arXiv preprint arXiv:2510.10588},
year = {2025}
}