MambaTab：一种用于学习表格数据的即插即用模型
机器学习
2024-06-26 v2
摘要
尽管图像和文本在机器学习中普遍存在，表格数据仍广泛应用于各个领域。现有的深度学习模型，如卷积神经网络和 Transformer，虽然表现良好，但需要大量的预处理和调优，限制了其可访问性和可扩展性。本工作引入了一种基于结构化状态空间模型（SSM）的创新方法 MambaTab，用于处理表格数据。SSM 具有从具有长程依赖性的数据中高效提取有效表示的强大能力。MambaTab 利用新兴的 SSM 变体 Mamba，对表格进行端到端的监督学习。与最先进的基线模型相比，MambaTab 在多种基准数据集上经验证实现了更优的性能，同时所需参数显著减少。MambaTab 的高效性、可扩展性、泛化能力和预测增益表明，它是一种轻量级、“即插即用”的解决方案，适用于多样的表格数据，有望实现更广泛的实际应用。
引用
@article{arxiv.2401.08867,
title = {MambaTab: A Plug-and-Play Model for Learning Tabular Data},
author = {Md Atik Ahamed and Qiang Cheng},
journal= {arXiv preprint arXiv:2401.08867},
year = {2024}
}
备注
Accepted by IEEE 7th International Conference on Multimedia Information Processing and Retrieval (MIPR), 2024