淋巴结转移的演化可解释分类
计算机视觉与模式识别
2022-01-04 v1 神经与进化计算
图像与视频处理
摘要
提出了一种用于可解释人工智能（Explainable Artificial Intelligence）的新颖演化方法：“演化解释”模型（EvEx）。该方法将局部可解释模型无关解释（LIME）与多目标遗传算法相结合，以实现图像分类任务中自动化的分割参数调优。本研究中，所使用的数据集为 Patch-Camelyon，由病理全切片图像的图块组成。在该数据集上训练了一个公开可用的卷积神经网络（CNN），以提供淋巴结转移组织存在/缺失的二分类。进而，分类结果通过演化分割进行解释，力求同时优化三个评估目标。最终解释计算为所有由所开发遗传算法演化的帕累托前沿个体所生成解释的平均值。为增强解释的可复现性与可追溯性，每个解释均由若干随机选取的不同种子生成。观测结果显示不同种子间具有显著一致性。尽管 LIME 解释具有随机性，但高解释权重区域在热图中表现出良好的一致性，这通过逐像素相对标准偏差计算得出。所得热图与医学专家分割相吻合，这表明该方法能找到高质量解释（依据评估指标），并具有自动化参数微调的新颖优势。这些结果对医学数据中神经网络黑箱决策的内部机制提供了额外见解。
引用
@article{arxiv.2005.07229,
title = {Evolved Explainable Classifications for Lymph Node Metastases},
author = {Iam Palatnik de Sousa and Marley Maria Bernardes Rebuzzi Vellasco and Eduardo Costa da Silva},
journal= {arXiv preprint arXiv:2005.07229},
year = {2022}
}