基于胶囊网络的层次化对象中心学习
摘要
胶囊网络（CapsNets）是为了解决卷积神经网络的局限性而提出的, 学习更具鲁棒性、姿态感知和可解释性的对象中心表示. 它们将神经元组织成称为胶囊的组, 每个胶囊编码对象或其某部分的实例参数. 此外, 路由算法连接不同层中的胶囊, 从而捕获数据中层次化的 part-whole 关系. 本 thesis 调查了胶囊网络的诱人方面, 并聚焦于三个关键问题以释放其潜力. 首先, 我们探讨了路由算法的有效性, 尤其是在 small-sized 网络中. 我们提出了一种新方法, 在 training 期间逐渐 anneal 路由迭代次数, 以提高参数更少的体系结构的性能. 第二ly, 我们调查了从更有效的 first-layer 胶囊（即 primary capsules）中提取方法. 通过利用被修剪的 backbone, 我们旨在通过减少胶囊数量来提高计算效率, 同时实现高的 generalization. 这种方法减少了 CapsNets 的内存需求和计算量. 第三, 我们探讨了胶囊网络中的 part-关系学习. 通过广泛的 research, 我们表明即使在合理的网络大小下, 具有 low entropy 的胶囊也能比传统胶囊网络提取更简洁且具辨识力的 part-whole 关系. 最后, 我们展示了胶囊网络如何被用于实际应用, 包括无人机自主定位、合成数据集中的四元数旋转预测以及生物医学影像中的肺结节分割. 本 thesis 所提出的发现深化了对 CapsNets 的理解, 并突显了其解决复杂 computer vision 挑战的潜力.
引用
@article{arxiv.2405.19861,
title = {Hierarchical Object-Centric Learning with Capsule Networks},
author = {Riccardo Renzulli},
journal= {arXiv preprint arXiv:2405.19861},
year = {2024}
}
备注
Updated version of my PhD thesis (Nov 2023), with fixed typos. Will keep updated as new typos are discovered!