用于低成本集成剪枝的流动民主机制
机器学习
2024-02-01 v1 人工智能
多智能体系统
摘要
我们认为集成学习与一种委托投票范式——流动民主——之间存在紧密联系,这种联系可用于降低集成训练成本。我们提出了一种增量式训练过程,该过程通过受流动民主启发的委托机制来识别并移除集成中的冗余分类器。通过分析和大量实验,我们表明,与训练完整集成相比,此过程极大地降低了训练的计算成本。通过精心选择底层的委托机制,可以避免分类器群体中的权重集中化,从而获得比某些提升方法更高的准确率。此外,这项工作作为一个范例,展示了计算社会选择文献中的框架如何应用于非传统领域的问题。
引用
@article{arxiv.2401.17443,
title = {Liquid Democracy for Low-Cost Ensemble Pruning},
author = {Ben Armstrong and Kate Larson},
journal= {arXiv preprint arXiv:2401.17443},
year = {2024}
}
备注
30 pages, 20 figures. Extended abstract to appear at AAMAS 2024