一种强归纳偏置：基于Gzip的二值图像分类
计算机视觉与模式识别
2024-01-17 v1
摘要
深度学习网络已成为计算机视觉领域工业界和学术界的事实标准。然而，其近亲自然语言处理（NLP）领域的最新进展表明，在某些领域，具有强归纳偏置的无参数模型可以作为计算成本更低、更简单的替代方案。我们为二值图像分类提出这样一种模型：一个结合了通用压缩器（如Gzip）的最近邻分类器。我们将其与流行的深度学习网络（如ResNet、EfficientNet和MobileNet）进行测试和比较，结果表明，在少样本设置下，它能达到更高的准确率，并显著减少空间占用（超过两个数量级）。因此，我们认为这凸显了具有更强归纳偏置的模型在少样本场景中尚未开发的潜力。
引用
@article{arxiv.2401.07392,
title = {A Strong Inductive Bias: Gzip for binary image classification},
author = {Marco Scilipoti and Marina Fuster and Rodrigo Ramele},
journal= {arXiv preprint arXiv:2401.07392},
year = {2024}
}