在集成构建中处理背包问题的随机方法
机器学习
2020-04-20 v1 最优化与控制
机器学习
摘要
基于集成的方法是通过聚合个体投票者的意见来提高决策准确性的热门方法。其共同点是最大化准确性；然而，若个体投票者也被赋予递增成本，则会出现自然限制。因此，我们研究在成员总成本附加约束下创建集成。该任务可表述为背包问题，其中能量为由某些聚合规则形成的集成准确性。然而，通常应用的聚合规则导致不可分离的能量函数，使动态规划等常用求解工具失效。我们引入一种新颖的随机方法，将能量视为成员准确性的联合概率函数。此类知识可作为停止规则高效纳入随机搜索过程，因为我们有关于期望准确性或找到更准确集成的替代信息。对模式分类器和目标检测器所创建集成的实验分析证实了我们的方法的有效性。此外，我们提出了一种相较于模拟退火等通用方法更契合能量的新型随机搜索策略。
引用
@article{arxiv.2004.08101,
title = {A stochastic approach to handle knapsack problems in the creation of ensembles},
author = {Andras Hajdu and Gyorgy Terdik and Attila Tiba and Henrietta Toman},
journal= {arXiv preprint arXiv:2004.08101},
year = {2020}
}