CASHformer：用于纵向分析的认知感知形状 Transformer
计算机视觉与模式识别
2022-07-06 v1
摘要
对皮层下结构的时间变化建模对于更好地理解阿尔茨海默病（AD）的进展至关重要。鉴于网格化 Transformer 架构能灵活适应异构序列长度，过去已提出用其预测海马体随时间的形变。然而，Transformer 的主要局限之一是其可训练参数数量巨大，这使得在小数据集上的应用非常具有挑战性。此外，当前方法未纳入有助于在进展中识别 AD 相关模式的相关非图像信息。为此，我们提出 CASHformer，一种基于 Transformer 的框架，用于建模 AD 中的纵向形状轨迹。CASHformer 引入了预训练 Transformer 作为通用计算引擎的思想，即在微调时冻结大多数层以泛化到广泛任务。相较于原始模型，这将参数数量减少了 90% 以上，从而能够在小数据集上应用大型模型而不发生过拟合。此外，CASHformer 对认知衰退建模，以揭示时间序列中的 AD 萎缩模式。我们的结果表明，与先前提出的方法相比，CASHformer 将重建误差降低了 73%。而且，通过填补缺失的纵向形状数据，检测进展为 AD 的患者的准确率提高了 3%。
引用
@article{arxiv.2207.02091,
title = {CASHformer: Cognition Aware SHape Transformer for Longitudinal Analysis},
author = {Ignacio Sarasua and Sebastian Pölsterl and Christian Wachinger},
journal= {arXiv preprint arXiv:2207.02091},
year = {2022}
}