流形引导揭示神经网络表示与行为的共享几何
机器学习
2026-05-07 v1
摘要
神经表示携带丰富的几何结构；但这种结构是否在因果上塑造行为？为回答此问题，我们在由不同几何定义的激活空间路径上进行干预，并测量其诱导的行为轨迹。具体而言，我们首先为表示拟合一个激活流形 ，为输出概率分布拟合一个行为流形 。随后我们通过干预测试 的联系：我们发现沿 进行引导（我们称之为流形引导）会产生遵循 的行为轨迹，而线性引导——假设欧几里得几何——会穿越离流形区域，从而产生不自然的输出。此外，优化在激活空间中产生沿 的路径的干预，可恢复沿 曲率的激活轨迹。我们在各种任务和模态上演示了表示与行为几何之间的这种双向关系。在语言模型中，我们使用具有循环和顺序几何的推理任务以及更复杂图形几何的类比学习任务。在视频世界模型中，我们使用对应物理动力学几何的任务。总体而言，本工作表明神经表示中的几何不仅是偶然的，而实际上是通过对内部干预实现原则性控制的恰当对象。这将核心的引导问题从寻找正确方向重新阐释为寻找正确的几何。
引用
@article{arxiv.2605.05115,
title = {Manifold Steering Reveals the Shared Geometry of Neural Network Representation and Behavior},
author = {Daniel Wurgaft and Can Rager and Matthew Kowal and Vasudev Shyam and Sheridan Feucht and Usha Bhalla and Tal Haklay and Eric Bigelow and Raphael Sarfati and Thomas McGrath and Owen Lewis and Jack Merullo and Noah Goodman and Thomas Fel and Atticus Geiger and Ekdeep Singh Lubana},
journal= {arXiv preprint arXiv:2605.05115},
year = {2026}
}