基于 sBeta 的单纯形聚类及其在黑盒预测在线调整中的应用
计算机视觉与模式识别
2024-07-02 v4 人工智能
机器学习
摘要
我们探索深度神经网络 softmax 预测结果的聚类，并引入一种新颖的概率聚类方法，称为 k-sBetas。在聚类离散分布的一般背景下，现有方法侧重于探索为单纯形数据量身定制的失真度量（如 KL 散度），以作为标准欧氏距离的替代。我们提供了聚类分布的一般最大后验（MAP）视角，强调现有基于失真的方法所依赖的统计模型可能不够具有描述性。相反，我们优化一个混合变量目标函数，衡量每个簇内数据对引入的 sBeta 密度函数的符合程度，其参数受约束并与二元分配变量联合估计。我们通用的公式可逼近多种用于建模单纯形数据的参数密度，并能够控制簇平衡偏置。这在多种场景下对黑盒模型预测的无监督调整取得了极具竞争力的性能。我们的代码以及与现有单纯形聚类方法的对比和我们引入的 softmax 预测基准已公开：https://github.com/fchiaroni/Clustering_Softmax_Predictions。
引用
@article{arxiv.2208.00287,
title = {Simplex Clustering via sBeta with Applications to Online Adjustment of Black-Box Predictions},
author = {Florent Chiaroni and Malik Boudiaf and Amar Mitiche and Ismail Ben Ayed},
journal= {arXiv preprint arXiv:2208.00287},
year = {2024}
}