DIsoN: 用于医学成像中分布外检测的去中心化隔离网络
计算机视觉与模式识别
2025-11-05 v2 机器学习
摘要
在医学成像等安全关键领域安全部署机器学习（ML）模型，需要检测训练期间未见过的特征的输入，即分布外（OOD）检测，以防止不可靠的预测。部署后的有效OOD检测可以从访问训练数据中受益，从而在测试样本和训练数据分布之间进行直接比较以识别差异。然而，最先进的OOD检测方法要么在部署后丢弃训练数据，要么假设测试样本和训练数据集中存储在一起，这一假设在现实场景中很少成立。这是因为随部署模型一起传输训练数据通常由于训练数据库的规模以及专有性或隐私限制而不可能。我们引入隔离网络（Isolation Network），一种通过求解二分类任务来量化将目标测试样本与训练数据分离难度的OOD检测框架。然后我们提出DIsoN（去中心化隔离网络），通过仅在训练和部署的远程计算节点之间交换模型参数，在数据共享不可能时实现训练数据和测试数据的比较。我们进一步通过类别条件化扩展DIsoN，使目标样本仅与其预测类别的训练数据进行比较。我们在四个医学成像数据集（皮肤病学、胸部X光、乳腺超声、组织病理学）上评估DIsoN，涵盖12项OOD检测任务。DIsoN在尊重数据隐私的同时表现优于现有方法。这种去中心化OOD检测框架为机器学习开发者提供了一种新型服务：远程、安全地利用其训练数据进行OOD检测服务。代码：https://github.com/FelixWag/DIsoN
引用
@article{arxiv.2506.09024,
title = {DIsoN: Decentralized Isolation Networks for Out-of-Distribution Detection in Medical Imaging},
author = {Felix Wagner and Pramit Saha and Harry Anthony and J. Alison Noble and Konstantinos Kamnitsas},
journal= {arXiv preprint arXiv:2506.09024},
year = {2025}
}
备注
Accepted at NeurIPS 2025