基于影响函数的任务级元学习解释框架TLXML
机器学习
2026-01-27 v3
摘要
元学习使模型能够通过利用先前经验快速适应新任务,但其适应机制仍不为人所知,尤其是关于过去训练任务如何影响未来预测的影响尚不清晰。我们引入TLXML(Task-Level eXplanation of Meta-Learning),一个新型框架,将影响函数扩展到元学习场景,实现对适应和推理的任务级解释。通过对双层优化进行重新表述,TLXML量化了每个元训练任务对已适应模型行为的贡献。为确保可扩展性,我们提出了一种高斯牛顿近似方法,显著降低了计算复杂度,从降低到,其中p和q分别表示模型参数和元参数。结果表明,TLXML能够有效地按其对下游性能影响对训练任务进行排序,提供简洁直观的解释,符合用户层次的抽象。该工作为构建可解释且可信的元学习系统提供了关键一步。
引用
@article{arxiv.2501.14271,
title = {TLXML: Task-Level Explanation of Meta-Learning via Influence Functions},
author = {Yoshihiro Mitsuka and Shadan Golestan and Zahin Sufiyan and Shotaro Miwa and Osmar R. Zaiane},
journal= {arXiv preprint arXiv:2501.14271},
year = {2026}
}
备注
26 pages; v2: modification in metadata; v3: extended experimental support, modification in metadata