面向医学时间序列的冗余受约束信息最大化学习指纹
机器学习
2026-05-04 v1
摘要
从医学时间序列(MedTS)如 ECG 或 EEG 信号中学习有意义的表征是一项关键挑战。这些信号通常是高维的、可变长度且充满噪声。现有的自监督方法(如遮蔽自编码器 MAE)虽然对预训练通用编码器 highly effective,但未显式学习紧凑且在语义上可解释的潜在表征,通常依赖于全局平均池化或指定的 [CLS] token 等启发式聚合策略。我们提出一种新框架,将可变长度 MedTS 压缩为固定大小的 个潜在指纹标记。我们的架构采用跨注意力瓶颈生成这些标记,并以双目标函数进行训练。第一个目标是重构损失,确保标记是原始数据的充分统计量。第二个目标是基于总编码率(TCR)的多样性惩罚,显式最小化标记之间的冗余,鼓励它们成为统计上「解耦」的表征。我们对该方法进行了理论论证,将其表述为一种新的「解耦率失真」问题。这种方法产生低维、可解释且样本高效的表征,其中每个标记都被鼓励捕获独立的变异因子,为更健壮的数字生物标志物铺路。
引用
@article{arxiv.2605.00130,
title = {Learning Fingerprints for Medical Time Series with Redundancy-Constrained Information Maximization},
author = {Huayu Li and ZhengXiao He and Xiwen Chen and Jingjing Wang and Siyuan Tian and Jinghao Wen and Ao Li},
journal= {arXiv preprint arXiv:2605.00130},
year = {2026}
}