解释性人工智能中的安全误觉

欧盟和美国关于人工智能法规与政策的审慎解读将可解释性置于合规人工智能系统的核心交付物之中。然而，从技术视角来看，可解释人工智能（XAI）仍是一个难以捉摸且复杂的目标，甚至是最先进的方法常常得出错误、误导且不完整的解释。“可解释性”具有多重含义，人们往往不加区分地交替使用这些含义，而可解释人工智能的方法数量更为众多，几乎没有哪一种方法能展现明确的优势。事实上，每种XAI方法都存在多种失效模式，这些失效模式需要针对具体应用进行开发并持续评估。本文从权益解释（right to explanation）的角度，分析了美国和欧盟的立法与政策发展，如《关于安全、安全且可信赖人工智能开发与使用的行政命令》、《人工智能法案》、《人工智能责任指令》以及《通用数据保护条例》（GDPR）。我们认为，这些人工智能法规和当前的市场条件威胁到有效的人工智能治理与安全，因为可信赖、可 accountability 且透明的人工智能的目标，本质上与人工智能操作者提供有意义解释的可疑能力密切相关。除非政府通过明确的立法与政策声明来正式应对可解释性问题，并考虑技术现实，否则人工智能治理风险可能演变为空洞的“勾选框”练习，取代科学标准的法律化阈值，仅提供一种对XAI的虚假安全感。