发挥 Transformer 潜力的策略：UNSL 在 eRisk 2023 中的工作
计算与语言
2023-11-01 v1
摘要
CLEF eRisk 实验室探索与互联网风险检测相关不同任务的解决方案。在 2023 届中，任务 1 包括搜索抑郁症症状，其目标是根据与 BDI 问卷症状的相关性提取用户文本。任务 2 涉及病理性赌博风险早期检测问题，参与者须尽快检测处于风险的用户。最后，任务 3 包括估算进食障碍征兆的严重程度等级。我们的研究小组参与了前两项任务，提出基于 Transformer 的解决方案。对于任务 1，我们应用了在信息检索任务中可能有意义的多种方法。两个方案基于上下文嵌入向量的相似性，另一个基于提示（prompting），一种吸引人的当前机器学习技术。对于任务 2，我们提出了三个微调模型，随后依据早期检测框架所定义标准进行决策策略。其中一个模型扩展了针对所涉领域的重要词汇表。在最后的任务中，考虑到基于决策的度量、基于排名的度量以及运行时间，我们取得了良好表现。在这项工作中，我们探索了在 eRisk 任务中部署 Transformer 预测潜力的不同方式。
引用
@article{arxiv.2310.19970,
title = {Strategies to Harness the Transformers' Potential: UNSL at eRisk 2023},
author = {Horacio Thompson and Leticia Cagnina and Marcelo Errecalde},
journal= {arXiv preprint arXiv:2310.19970},
year = {2023}
}
备注
In Conference and Labs of the Evaluation Forum (CLEF 2023), Thessaloniki, Greece