DDEQs：基于Wasserstein梯度流的分布式深层均衡模型
机器学习
2025-03-25 v2 机器学习
摘要
深层均衡模型（DEQs）是一类在前向传播中求解神经网络固定点的隐式神经网络。传统上，DEQs以序列为输入，但后续被应用于各种数据类型。本文提出分布式深层均衡模型（DDEQs），将DEQs扩展到离散测度输入（如集合或点云）。我们提供了DDEQs的理论依据框架。利用Wasserstein梯度流，我们展示了DEQ的前向传播如何适应在置换不变性下寻找离散测度的固定点，并推导出DDEQs的相应网络架构。在实验中，我们表明DDEQs在点云分类和点云完成等任务中可与最先进的模型匹敌，同时参数显著更高效。
引用
@article{arxiv.2503.01140,
title = {DDEQs: Distributional Deep Equilibrium Models through Wasserstein Gradient Flows},
author = {Jonathan Geuter and Clément Bonet and Anna Korba and David Alvarez-Melis},
journal= {arXiv preprint arXiv:2503.01140},
year = {2025}
}
备注
39 pages, 17 figures. To be published in AISTATS 2025