多数投票用于多类分类准确性的新界
机器学习
2023-09-19 v1 机器学习
摘要
多数投票是一种简单的数学函数，返回集合中出现最频繁的值。作为一种流行的决策融合技术，多数投票函数（MVF）在解决冲突中具有应用，其中若干独立投票者报告其对某一分类问题的意见。尽管其重要且在集成学习、数据众包、遥感及区块链数据预言机等方面有诸多应用，MVF 在一般多类分类问题上的准确性仍属未知。本文推导了 MVF 用于多类分类问题的准确性的新上界。更具体地，我们表明在特定条件下，MVF 的错误率随独立投票者数量增加呈指数衰减趋于零。反之，若不满足这些条件，MVF 的错误率随独立投票者数量呈指数增长。我们首先探讨独立同分布投票者的问题，假设每位投票者给定数据点真实分类时对不同类投票的条件概率分布相同。接下来，我们将结果扩展至投票者独立但非同分布的情形。利用所得结果，我们进而讨论了真相发现算法的准确性。我们表明，在最佳情形下，真相发现算法充当放大版 MVF，从而仅当 MVF 错误率小时取得小错误率，反之亦然，当 MVF 错误率大时取得大错误率。在最差情形下，真相发现算法可能取得比 MVF 更高的错误率。最后，我们通过数值模拟证实了理论结果。
引用
@article{arxiv.2309.09564,
title = {New Bounds on the Accuracy of Majority Voting for Multi-Class Classification},
author = {Sina Aeeneh and Nikola Zlatanov and Jiangshan Yu},
journal= {arXiv preprint arXiv:2309.09564},
year = {2023}
}