TabDeco：表格数据解耦表示的综合对比框架
机器学习
2024-11-19 v1 人工智能
摘要
表示学习是现代人工智能的基础方面，推动了各种应用的显著改进。虽然自监督对比学习在计算机视觉和自然语言处理等领域取得了重大进展，但其在表格数据上的适应面临独特挑战。传统方法通常优先优化模型架构和损失函数，但可能忽视了从不同视角（如特征交互、实例级模式和批次特定上下文）构建有意义的正负样本对的关键任务。为应对这些挑战，我们引入了TabDeco，一种新颖的方法，它利用基于注意力的编码策略同时处理行和列，并采用对比学习框架在多个层次（包括特征、实例和数据批次）有效解耦特征表示。凭借创新的特征解耦层次结构，TabDeco在各种基准任务上持续超越现有的深度学习方法以及领先的梯度提升算法（包括XGBoost、CatBoost和LightGBM），突显了其在推进表格数据表示学习方面的有效性。
引用
@article{arxiv.2411.11148,
title = {TabDeco: A Comprehensive Contrastive Framework for Decoupled Representations in Tabular Data},
author = {Suiyao Chen and Jing Wu and Yunxiao Wang and Cheng Ji and Tianpei Xie and Daniel Cociorva and Michael Sharps and Cecile Levasseur and Hakan Brunzell},
journal= {arXiv preprint arXiv:2411.11148},
year = {2024}
}