发生式集成网络：通过共享表征与独立分支增强不确定性估计
机器学习
2024-12-23 v3
摘要
集成学习在提高神经网络预测性能和估计不确定性方面已证明有效。然而，传统集成方法由于完全独立的网络训练，常常出现参数冗余和计算效率低下的问题。为此，我们提出了发生式集成网络（Divergent Ensemble Network，DEN），一种结合共享表征学习与独立分支的新型架构。DEN采用共享输入层来捕获所有分支之间的共同特征，随后采用具有分支结构的独立可训练层形成集成。这种从共享到分支的结构在减少参数冗余的同时，保持了集成的多样性，实现了高效且可扩展的学习。
引用
@article{arxiv.2412.01193,
title = {Divergent Ensemble Networks: Enhancing Uncertainty Estimation with Shared Representations and Independent Branching},
author = {Arnav Kharbanda and Advait Chandorkar},
journal= {arXiv preprint arXiv:2412.01193},
year = {2024}
}
备注
International Journal on Cybernetics & Informatics (IJCI) Vol.13, No.6, December2024