简洁、快速且灵活的无限宽神经网络矩阵补全框架
机器学习
2022-05-11 v2
摘要
矩阵补全问题出现在许多应用中,包括推荐系统、计算机视觉和基因组学。日益增大的神经网络已在许多此类应用中取得成功,但付出了可观的计算代价。值得注意的是,将神经网络宽度取为无穷大可改善计算性能。在本工作中,我们开发了一个用于矩阵补全的无限宽神经网络框架,该框架简洁、快速且灵活。简洁与快速源于神经网络无限宽极限与称为神经切线核(NTK)的核之间的联系。具体而言,我们推导了用于矩阵补全的全连接与卷积神经网络的NTK。灵活性来自特征先验,其允许编码目标矩阵坐标间的关系,类似于半监督学习。我们通过虚拟药物筛选与图像修复/重建的竞争性结果证明了框架的有效性。我们还提供了Python实现,以使我们的框架在标准硬件上能被广泛受众使用。
引用
@article{arxiv.2108.00131,
title = {Simple, Fast, and Flexible Framework for Matrix Completion with Infinite Width Neural Networks},
author = {Adityanarayanan Radhakrishnan and George Stefanakis and Mikhail Belkin and Caroline Uhler},
journal= {arXiv preprint arXiv:2108.00131},
year = {2022}
}