超bolic方法构建早期退出网络:不仅仅是一个捷径
声音
2025-11-04 v1 人工智能
摘要
在资源受限的设备上部署准确的事件检测面临着性能与计算成本之间的权衡。虽然早期退出(Early-Exit,EE)网络通过自适应计算提供了解方策,但它们往往无法强制执行连贯的层次结构,限制了早期预测的可靠性。为此,我们提出了超bolic早期退出网络(Hyperbolic Early-Exit networks,HypEE),一种在超bolic空间中学习EE表示的新框架。我们的核心贡献是带有新型包含损失的层次训练目标,通过强制部分排序约束来确保更深层网络在几何上细化较浅层的表示。实验在多个音频事件检测任务和主干架构上表明,HypEE显著优于标准欧几里得EE基线,尤其是在最早、最具计算关键性的退出处。所学几何还提供了原则性的不确定性度量,使我们能够实现一种新型触发机制,使整个系统在常规EE和无早期退出的标准主干模型之外,既更高效又更准确。
引用
@article{arxiv.2511.00641,
title = {More Than A Shortcut: A Hyperbolic Approach To Early-Exit Networks},
author = {Swapnil Bhosale and Cosmin Frateanu and Camilla Clark and Arnoldas Jasonas and Chris Mitchell and Xiatian Zhu and Vamsi Krishna Ithapu and Giacomo Ferroni and Cagdas Bilen and Sanjeel Parekh},
journal= {arXiv preprint arXiv:2511.00641},
year = {2025}
}