Gated Evidential Mixtures with Fisher Modulation (GEM-FI)
机器学习
2026-05-06 v1
摘要
Evidential Deep Learning (EDL) 通过预测 Dirichlet 证据实现单次不确定性估计,但可能保持过于自信、校准不良,且常常无法表示多模态信中不确定性。我们引入 Gated Evidential Mixtures (GEM),一系列模型,通过学习内部能信号并以距离感知方式对 evidential 输出进行门控。GEM-CORE 学习特征级能量并将其映射到受限的门控,以平滑抑制支持不足时的证据。为捕捉信中多模态不确定性而无需多次集成,GEM-MIX 添加轻量级的 evidential 头混合物,搭配学习路由权重,同时保持单次推断。最后,GEM-FI 通过 Fisher 信息正则化器稳定混合分配,减少头崩溃并产生更平滑的边界不确定性。在图像分类和 OOD 检测基准测试中,GEM 在校准和 ID/OOD 分离方面均取得改进,实现单次推断。
引用
@article{arxiv.2605.03750,
title = {GEM-FI: Gated Evidential Mixtures with Fisher Modulation},
author = {Marco Mustafa Mohammed and Fatemeh Daneshfar and Pietro Liò},
journal= {arXiv preprint arXiv:2605.03750},
year = {2026}
}
备注
Accepted as a regular paper at ICML 2026. 23 pages