纠错码中码字到类别分配的作用:一项实证研究
机器学习
2023-02-13 v1
摘要
纠错码(ECC)用于将多类分类任务化简为多个二分类子问题。在 ECC 中,类别由二进制矩阵的行表示,对应于码本中的码字。码本通常为预定义或问题依赖的。给定预定义码本时,码字到类别的分配传统上被忽视,码字被隐式任意分配给类别。我们的论文表明这些分配在 ECC 的性能中起着重要作用。具体而言,我们考察保持相似性的分配,即相似码字分配给相似类别。针对现有文献中的争议,我们广泛的实验确认保持相似性的分配诱导出更简单的子问题,并且在泛化性能上优于其他分配策略。我们发现保持相似性的分配使预定义码本变得问题依赖,而不改变其他有利的码本性质。最后,我们表明我们的发现可改进专用于极端分类的预定义码本。
引用
@article{arxiv.2302.05334,
title = {The Role of Codeword-to-Class Assignments in Error-Correcting Codes: An Empirical Study},
author = {Itay Evron and Ophir Onn and Tamar Weiss Orzech and Hai Azeroual and Daniel Soudry},
journal= {arXiv preprint arXiv:2302.05334},
year = {2023}
}
备注
Accepted to the International Conference on Artificial Intelligence and Statistics (AISTATS 2023)