面向深度多示例学习的数据驱动知识融合
人工智能
2023-04-25 v1
摘要
多示例学习（MIL）是一种广泛应用于涉及复杂数据结构实际任务的技术。MIL 可大致分为两类：传统方法与基于深度学习的方法。这些方法已取得显著成果，尤其在问题求解策略与实验验证方面，为 MIL 领域的研究者提供了宝贵见解。然而，大量知识往往被困于算法内部，导致后续的 MIL 算法仅依赖模型的数据拟合来预测未标记样本。这造成了严重的知识流失，并阻碍了更智能模型的发展。本文提出一种新颖的面向深度多示例学习的数据驱动知识融合（DKMIL）算法。DKMIL 采用与现有深度 MIL 方法完全不同的思路，通过分析数据集中关键样本（即数据驱动）的决策，并利用所设计的知识融合模块从这些样本中提取有价值信息以辅助模型训练。换言之，该模块充当数据与模型之间的新接口，具备强可扩展性，并能够利用现有算法的先验知识来增强模型的学习能力。此外，为使模型的下游模块适应从数据驱动知识融合模块提取的更富含知识的特征，我们提出一个两级注意力模块，逐步学习样本的浅层与深层特征以实现更有效的分类。我们将证明知识融合模块的可扩展性，并通过在 6 类共 38 个数据集上的实验验证所提架构的有效性。
引用
@article{arxiv.2304.11905,
title = {Data-driven Knowledge Fusion for Deep Multi-instance Learning},
author = {Yu-Xuan Zhang and Zhengchun Zhou and Xingxing He and Avik Ranjan Adhikary and Bapi Dutta},
journal= {arXiv preprint arXiv:2304.11905},
year = {2023}
}