基于多任务学习从颈椎放射报告中高效提取病理
机器学习
2022-04-12 v1 人工智能
计算与语言
摘要
在领域特定语料上微调的预训练 Transformer 模型已改变了 NLP 的格局。通常，若对给定数据集有多个任务，人们可能微调不同模型或使用任务特定适配器。在本工作中，我们展示一个多任务模型可以击败或达到多个基于 BERT、在各任务上微调的模型以及多种任务特定适配器增强的基于 BERT 模型的性能。我们在内部颈椎放射科医生报告数据集上验证了该方法。我们假设这些任务在语义上相近且相关，因此多任务学习器是强大的分类器。我们的工作为将该方法应用于各身体部位的放射科医生报告开辟了空间。
引用
@article{arxiv.2204.04544,
title = {Efficient Extraction of Pathologies from C-Spine Radiology Reports using Multi-Task Learning},
author = {Arijit Sehanobish and Nathaniel Brown and Ishita Daga and Jayashri Pawar and Danielle Torres and Anasuya Das and Murray Becker and Richard Herzog and Benjamin Odry and Ron Vianu},
journal= {arXiv preprint arXiv:2204.04544},
year = {2022}
}
备注
Accepted at 6th International Workshop on Health Intelligence, AAAI-2022. To appear in as a book chapter published by Springer in Studies in Computational Intelligence