离散共识-based 优化
最优化与控制
2024-04-17 v3
摘要
我们提出了离散共识-based 优化（DCBO），即共识-based 优化（CBO）框架的完全离散版本。DCBO 是一种用于全局优化的多代理方法，可处理可能非凸且不可导函数。它符合 CBO 范式，通过简单的随机动力学促进代理人对全局最优值的共识，这种动力学具有严格的数学分析能力。尽管已取得进展，但在分析 CBO 与其离散实现中代理人的实际行为之间仍存在差距，因为前者主要关注定义该模型或其均值场近似的连续随机微分方程系统。特别是，对具有异构随机性的 CBO 类算法进行直接分析极具挑战性。DCBO 区别于这些方法的关键在于它没有连续对应版本，由于用“hardmin”算子取代“softmin”算子而具有内在离散性。然而，它保持了 CBO 的操作原则，允许进行丰富的数学分析。我们提出了独立于代理人数量的条件，用于实现共识或收敛，并研究全局优化发生的情形。我们在大量基准函数上测试 DCBO，以展示其优势。我们还演示了 DCBO 可应用于多样化的实际问题，包括神经网络训练、压缩感知和投资组合优化，性能具有竞争力。
引用
@article{arxiv.2403.03430,
title = {Discrete Consensus-Based Optimization},
author = {Junhyeok Byeon and Seung-Yeal Ha and Joong-Ho Won},
journal= {arXiv preprint arXiv:2403.03430},
year = {2024}
}