基于直接偏好优化的编码器-解码器模型用于临床阅读理解
信息检索
2024-07-22 v1 计算与语言
机器学习
摘要
基于抽取式的临床文本问答对于处理医院中产生的大量临床文本至关重要。虽然编码器模型（如 BERT）在此类阅读理解任务中一直很流行，但近来编码器-解码器模型（如 T5）正日益兴起。同时，也出现了用于对齐仅解码器大语言模型与人类偏好的偏好优化技术。在本文中，我们将编码器-解码器模型与直接偏好优化（DPO）方法相结合，在 RadQA 放射学问答任务上将先前最先进水平提高了 12-15 个 F1 分数点。据我们所知，这是首次证明 DPO 方法也能适用于阅读理解任务，并且我们通过无需人工输入的启发式方法生成偏好数据。
引用
@article{arxiv.2407.14000,
title = {Clinical Reading Comprehension with Encoder-Decoder Models Enhanced by Direct Preference Optimization},
author = {Md Sultan Al Nahian and Ramakanth Kavuluru},
journal= {arXiv preprint arXiv:2407.14000},
year = {2024}
}