中文

ProductAE:迈向大维度深度学习驱动纠错码

信息论 2024-08-20 v2 人工智能 机器学习 math.IT

摘要

尽管数十年的理论研究已催生了若干类纠错码,但此类码的设计是一项极具挑战性的任务,主要由人类智慧驱动。近期研究表明,此类设计可通过机器学习(ML)工具有效自动化和加速,从而实现了相比经典设计具有可观性能增益的 ML 驱动纠错码类。然而,一个根本性的挑战是:对于大码维度,设计和训练完全 ML 驱动的编码器-解码器对在计算上极其复杂,甚至不可能。本文提出 Product Autoencoder (ProductAE)——一种计算高效的深度学习驱动(编码器,解码器)对族——旨在以可控的训练复杂度实现相对较大码(编码器与解码器)的训练。我们基于经典乘积码的思想,提出使用较小的码分量来构造大型神经码。ProductAE 将训练码维度为 kk、块长为 nn 的大型码的编码器与解码器的复杂问题,化简为训练较小维度与块长的编码器与解码器的较简单子问题。我们的训练结果显示,成功训练了维度高达 k=300k = 300 比特的 ProductAE,相比最先进的经典与神经设计具有有意义的性能增益。此外,我们展示了 ProductAE 对不同于训练所用信道模型的优异鲁棒性与适应性。

关键词

引用

@article{arxiv.2303.16424,
  title  = {ProductAE: Toward Deep Learning Driven Error-Correction Codes of Large Dimensions},
  author = {Mohammad Vahid Jamali and Hamid Saber and Homayoon Hatami and Jung Hyun Bae},
  journal= {arXiv preprint arXiv:2303.16424},
  year   = {2024}
}

备注

arXiv admin note: text overlap with arXiv:2110.04466