XAI与监管的双向关系：面向《AI法案》的XAI操作化

欧盟《AI法案》使得高风险AI系统的可解释性变得迫在眉睫，然而大多数XAI研究关注的是技术指标而非监管合规。理解法律要求如何重塑XAI方法设计具有挑战性：《AI法案》使用法律术语监管组织关系（提供者、部署者），规定了义务但没有具体的技术要求，且未充分代表最终用户——而正是这些利益相关者的需求是以人为本的XAI所关注的。随着全球范围内法规的涌现，以人为本的XAI从业者面临着挑战与机遇：法规将XAI研究拉向现实世界的部署，而从业者可以积极塑造可解释性如何实现合规。这建立了一种双向关系。我们的贡献有三个方面。首先，我们提供了关于XAI在《AI法案》中作用的首次跨学科分析——由一个包含《AI法案》法律专家、ML工程师和需求工程师的团队在一个真实的临床决策支持系统上进行。其次，我们系统地将XAI利益相关者角色与《AI法案》法律责任对齐，揭示了可解释性方法在何处满足监管要求，以及在何处需要额外措施。第三，我们为以人为本的XAI从业者确定了三个关键机遇：积极定义他们在监管实施中的角色；在法规仅涉及提供者-部署者义务之处使“用户到受影响方”的关系明确化；以及在建立从监管者到受影响方的多层次信任的同时实现合规。