TRIM：基于注意力的标记级显著性用于数据高效指令调优
计算与语言
2026-05-15 v3 机器学习
摘要
指令调优是将大型语言模型（LLM）对齐到下游任务的关键手段，通常依赖大规模且多样化的语料库。然而，小规模高质量子集（即核心集）可实现与或优于完整数据的效果，尽管其筛选仍具挑战性。现有方法常依赖梯度等粗粒度样本级信号，计算开销大，且忽视细粒度特征。为此，本文引入 TRIM（Token Relevance via Interpretable Multi-layer Attention，基于注意力的标记相关性），这是一种前向-only、面向标记的框架。TRIM 通过匹配由少量目标样本通过注意力识别的底层表示模式所构成的“指纹”，实现替代梯度的工作机制。这种方法极具高效性，独特捕捉定义任务的结构特征。我们方法选取的核心集在下游任务上 consistently 超越最新SOTA基线最高可达9%，在部分情境下甚至超越完整数据微调。通过规避昂贵的反向传播，TRIM在计算成本上仅为 fraction of the full-data approach。这些发现表明，TRIM 是构建高质量指令调优数据集的可扩展且高效替代方案。
引用
@article{arxiv.2510.07118,
title = {TRIM: Token-wise Attention-Derived Saliency for Data-Efficient Instruction Tuning},
author = {Manish Nagaraj and Sakshi Choudhary and Utkarsh Saxena and Deepak Ravikumar and Kaushik Roy},
journal= {arXiv preprint arXiv:2510.07118},
year = {2026}
}