中文

SRC 的几何视角:用于稳定残差推断的表示学习

机器学习 2026-05-29 v1 计算机视觉与模式识别

摘要

基于重建的推断方法通过比较类别间的重建残差来分配类别标签;稀疏表示分类 (SRC) 是其中的典型实例,其可靠性取决于所学习表示的几何结构。我们采用严格的训练-推断分离:SRC 仅作为固定的测试时规则使用,且从不在训练期间对其进行微分、展开或优化。在基于类别条件张量及其关联投影残差的层级理想化模型中,我们通过残差间隙来形式化残差排序稳定性,并通过小主角角度刻画几何障碍——张量重叠、支配和近似重叠——这些障碍可在最坏情况下导致间隙崩溃。该层级理论是核心:它指定了理想化残差族在何时情况下被良好分离,以及在何种条件下实际残差近似(如 OMP)在保持接近层级残差排序方面提供了条件求解器解释。在明确的覆盖和分离假设下,我们推导出 (理想化) 残差间隙的定量下界。基于这些目标,我们提出几何塑形目标,以促进被掩码的类内自表达性,抑制跨类的重建路径和类间张量对齐,防止间隙崩溃——在训练期间不涉及 SRC 残差或预测。实验在图像 (COIL-100)、文本 (TREC) 和 EEG 连接性数据上评估所有表示,均在相同的固定 SRC/OMP 推断下报告残差间隙和几何诊断;交叉熵仅作为在相同评估协议下作为参考几何。

关键词

引用

@article{arxiv.2605.29673,
  title  = {A Geometric View of SRC: Learning Representations for Stable Residual Inference},
  author = {Vangelis P. Oikonomou},
  journal= {arXiv preprint arXiv:2605.29673},
  year   = {2026}
}

备注

37 pages