深度空间上下文：当注意力模型遇见空间回归
计算机视觉与模式识别
2024-03-12 v2
摘要
我们提出了“深度空间上下文”(DSCon)方法，用于利用空间上下文的概念研究基于注意力的视觉模型。该方法受组织病理学家启发，但可应用于各种领域。DSCon 允许使用三种空间上下文度量：、、 来定量测量空间上下文的作用，以区分空间上下文是否在相邻区域的特征、其目标值（注意力分数）或残差中可观察到。这是通过将空间回归集成到流程中来实现的。DSCon 有助于验证研究问题。实验表明，在肿瘤病灶分类中，空间关系远大于正常组织。此外，结果表明，空间回归中考虑的邻域越大，上下文信息的价值越低。此外，观察到与目标和残差相比，在特征空间内考虑时空间上下文度量最大。
引用
@article{arxiv.2401.10044,
title = {Deep spatial context: when attention-based models meet spatial regression},
author = {Paulina Tomaszewska and Elżbieta Sienkiewicz and Mai P. Hoang and Przemysław Biecek},
journal= {arXiv preprint arXiv:2401.10044},
year = {2024}
}