当LLM不适用时，使用FastFit：快速有效的多类文本分类
计算与语言
2024-04-19 v1 人工智能
信息检索
机器学习
摘要
我们提出了FastFit，一种方法和一个Python包，旨在提供快速准确的少样本分类，尤其适用于具有许多语义相似类别的场景。FastFit采用了一种新颖的方法，结合了批量对比学习和令牌级相似度分数。与现有的少样本学习包（如SetFit、Transformers或通过API调用的大语言模型少样本提示）相比，FastFit在我们新整理的英文基准FewMany和多语言数据集上，显著提高了多类分类的速度和准确性。FastFit的训练速度提升了3-20倍，仅需几秒即可完成训练。FastFit包现已可在GitHub和PyPi上获取，为NLP从业者提供了一个用户友好的解决方案。
引用
@article{arxiv.2404.12365,
title = {When LLMs are Unfit Use FastFit: Fast and Effective Text Classification with Many Classes},
author = {Asaf Yehudai and Elron Bendel},
journal= {arXiv preprint arXiv:2404.12365},
year = {2024}
}
备注
Accepted to NAACL