利用微调语言模型与提示工程增强零样本加密货币情感分析
计算与语言
2023-10-23 v1
摘要
区块链技术以其去中心化和透明性革新了金融格局，加密货币得到广泛采用。由于社交媒体平台上的情绪表达能显著影响加密货币讨论与市场走势，情感分析已成为理解公众舆论和预测市场趋势的关键工具。出于提升加密货币领域情感分析准确性的目的，本文研究大型语言模型上的微调技术。本文还研究了有监督微调和基于指令的微调在大型语言模型上面向未知任务的有效性。实验结果表明，微调后零样本平均性能提升达40%，凸显了该技术在优化预训练语言模型效率方面的潜力。此外，考察了指令调优对不同规模模型的影响，揭示较大模型从指令调优中受益，取得75.16%的最高平均准确率。相比之下，小规模模型可能因模型容量被完全利用而泛化能力下降。为深入理解指令如何作用于这些语言模型，本文对基于指令的模型在不同指令调优设置下的响应进行了实验研究。该研究表明，模型对简短简单指令取得72.38%的平均准确率，其表现显著优于在长且复杂指令下的准确率逾12%，从而有效凸显了指令特征在最大化模型性能中的深远意义。
引用
@article{arxiv.2310.13226,
title = {Enhancing Zero-Shot Crypto Sentiment with Fine-tuned Language Model and Prompt Engineering},
author = {Rahman S M Wahidur and Ishmam Tashdeed and Manjit Kaur and Heung-No-Lee},
journal= {arXiv preprint arXiv:2310.13226},
year = {2023}
}