ASSS：面向任务感知的数据降采样的可微分对抗框架
机器学习
2026-04-07 v3
摘要
大规模数据集常常包含冗余信息，仅会增加计算成本而不提升泛化性能。现有的数据降采样方法通常是无任务感知的，导致关键边界样本被丢弃，进而产生次优性能。我们提出对抗软选择子采样（Adversarial Soft-Selection Subsampling，ASSS），一种可微分框架，将数据降采样建模为学习型选择器与任务网络之间的对抗性博弈。通过Gumbel-Softmax松弛，ASSS实现了端到端的梯度传播，并在信息瓶颈原理下得到理论依据。实验表明，ASSS在保持98.9%性能保留率（PRR）的同时仅使用30%的数据，显著优于随机采样、K-means和梯度基方法。可视化结果确认，ASSS倾向于保留决策边界附近的样本。该框架具备可扩展性、全可微分特性，易于集成到现有训练流程中。本工作引入了一种面向任务感知的数据降采样新范式，直接针对下游目标优化子集选择，为深度学习中的规模性挑战提供了原则性且实用的解决方案。
引用
@article{arxiv.2601.02081,
title = {ASSS: A Differentiable Adversarial Framework for Task-Aware Data Reduction},
author = {Jiacheng Lyu and Bihua Bao and Shiyun Yan},
journal= {arXiv preprint arXiv:2601.02081},
year = {2026}
}
备注
6 pages