关于生物统计学因果分析中神经网络机制可解释性的研究
应用统计
2025-05-02 v1 人工智能
摘要
从预测模型中获取可解释的见解在生物统计学中仍然至关重要，特别是在评估因果关系时，经典的统计和机器学习方法通常能提供内在的清晰度。虽然神经网络为建模复杂的生物数据提供了强大的能力，但其传统的“黑盒”性质给高风险健康应用中的验证和信任带来了挑战。机制可解释性领域的最新进展旨在破译这些网络学习到的内部计算。本研究探讨了将机制可解释性技术应用于生物统计学因果推断中的神经网络。我们证明，可以利用机制可解释性工具来：(1) 探测并验证神经网络学习到的内部表示，例如在目标最小损失估计等框架中估计干扰函数的网络；(2) 发现并可视化网络在处理不同类型输入时采用的不同计算路径，从而可能揭示混杂因素和处理因素是如何被处理的；(3) 提供用于比较统计模型、机器学习模型和神经网络模型中学习到的机制与提取的见解的方法论，从而促进对它们在因果生物统计分析中各自优缺点的深入理解。
引用
@article{arxiv.2505.00555,
title = {On the Mechanistic Interpretability of Neural Networks for Causality in Bio-statistics},
author = {Jean-Baptiste A. Conan},
journal= {arXiv preprint arXiv:2505.00555},
year = {2025}
}