中文

通过DC规划的次模函数差最小化

机器学习 2024-04-08 v2 离散数学 数据结构与算法 最优化与控制 机器学习

摘要

最小化两个次模函数之差(DS)是一个在各种机器学习问题中自然出现的问题。尽管众所周知DS问题可等价地表述为两个凸函数之差(DC)的最小化,现有算法并未充分利用这一联系。DC问题的经典算法称为DC算法(DCA)。我们引入DCA的变体及其完全形式(CDCA),并将其应用于对应于DS最小化的DC规划。我们扩展了DCA已有的收敛性质,并将其与DS问题上的收敛性质相联系。我们在DCA上的结果匹配现有DS算法满足的理论保证,同时提供了更完整的收敛性质刻画。在CDCA的情形,我们得到了更强的局部极小性保证。我们的数值结果表明,所提算法在语音语料选择和特征选择两个应用上优于现有基线。

关键词

引用

@article{arxiv.2305.11046,
  title  = {Difference of Submodular Minimization via DC Programming},
  author = {Marwa El Halabi and George Orfanides and Tim Hoheisel},
  journal= {arXiv preprint arXiv:2305.11046},
  year   = {2024}
}

备注

Removed minor errors in Proposition 2.7, Theorem 4.3 and Corollary 4.4. Key results unchanged (see Erratum on p.4). Also fixed typos