SurgX：面向可解释手术阶段识别的神经元-概念关联

手术阶段识别在外科工作流分析中扮演着关键角色，支持手术监控、技能评估和工作流优化等多种应用。尽管基于深度学习的手术阶段识别取得了显著进展，但这些模型本质上是不透明的，使得理解其决策过程变得困难。这种可解释性的缺乏阻碍了信任，并给模型调试带来了挑战。为应对这一挑战，我们提出了SurgX，一种新颖的基于概念的解释框架，通过将神经元与相关概念关联来增强手术阶段识别模型的可解释性。在本文中，我们介绍了为神经元选择代表性示例序列、构建针对手术视频数据集的概念集、将神经元与概念关联以及识别对预测至关重要的神经元的过程。通过在两个手术阶段识别模型上的广泛实验，我们验证了我们的方法并分析了预测的解释。这凸显了我们的方法在解释手术阶段识别方面的潜力。代码可在https://github.com/ailab-kyunghee/SurgX获取。