任务诱导的隐式神经表示权重空间中的类别信号是聚类还是路由？
计算机视觉与模式识别
2026-05-12 v1
摘要
隐式神经表示（INR）将图像编码为神经网络权重，使得图像分类成为权重空间可分类性问题。一个自然的几何假设是，分类器反馈应使特定于图像的权重在共享锚点坐标中按类别聚类。我们在基于SIREN的元权重变换器（MWT）框架中测试了这一假设，其中端到端训练元学习一个共享初始化和内循环更新调度，用于拟合特定于图像的SIREN。我们发现这个预测失败了。暴露的权重空间几何和受监督的聚类压力并不能可靠地跟踪训练好的分类器的准确率；聚类甚至可以使局部邻域在类别上更一致，同时使训练好的分类器更差。至关重要的是，分类器构建而非继承类别对齐的几何结构：令牌流诊断表明，类别对齐的邻域仅在后期分类器交互之后才对训练好的分类器准确率具有很强的预测性，而不是在输入坐标中。我们进一步将增强权重令牌中的原生SIREN偏置列识别为训练好的分类器的低维、样本依赖的因果读出路径；有针对性的控制排除了通用标量列和边际分布伪影。该诊断启发了加强分类器路由、添加显式偏置路由或使用更密集的内循环拟合的干预措施；在此处使用的特定于通道的训练约定下，路由导向的变体通常优于共享锚点基线，但交互是非加性的。任务诱导的INR权重之所以可分类，不是因为它们形成了原始的几何聚类，而是因为它们的类别信号通过分类器进行路由。
引用
@article{arxiv.2605.08281,
title = {Is Class Signal Clustered or Routed in Task-Induced Implicit Neural Representation Weight Spaces?},
author = {Xinyi Guo and Mingyi He and Haobin Ding and Weiming Chen and Xinrui Chen and Jiawen Li and Di Zhang and Minxi Ouyang and Yizhi Wang and Xitong Ling},
journal= {arXiv preprint arXiv:2605.08281},
year = {2026}
}