ExpertNet：分类与聚类的共生
机器学习
2022-01-19 v1
摘要
一种广泛使用的、用于提升高容量神经模型泛化性能的范式是在监督训练期间加入辅助无监督任务。诸如相似性匹配与输入重建等任务已被证明可通过引导表示学习提供有益的正则化效果。真实数据常具有复杂的底层结构，并可能由异质子群体组成，而当前方法难以学好此类结构。本工作中，我们设计了 ExpertNet，其使用新颖的训练策略学习聚类潜表示，并通过有效结合特定于聚类的分类器加以利用。我们从理论上分析了聚类对其泛化差距的影响，并经验性地表明 ExpertNet 的聚类潜表示能解耦内在结构并提升分类性能。ExpertNet 还满足一个重要的现实需求，即分类器需为不同子群体量身定制，例如临床风险模型。我们在 6 个大型临床数据集上展示了 ExpertNet 优于最先进方法，其方法对群体特异性风险提供了有价值的洞察。
引用
@article{arxiv.2201.06344,
title = {ExpertNet: A Symbiosis of Classification and Clustering},
author = {Shivin Srivastava and Kenji Kawaguchi and Vaibhav Rajan},
journal= {arXiv preprint arXiv:2201.06344},
year = {2022}
}
备注
16 pages, 3 figures