“当他们说大麻致抑郁,但它却是你最爱的抗抑郁药”:用于关系抽取的知识感知注意力框架
计算与语言
2021-06-09 v1
摘要
随着医用与娱乐用大麻合法化的推进,亟需更多研究以理解抑郁症与大麻消费相关消费者行为之间的关联。大型社交媒体数据有潜力为公共卫生分析人员提供关于这些关联的更深入洞察。在本跨学科研究中,我们展示了在学习过程中融入领域特定知识以识别大麻使用与抑郁之间关系的价值。我们开发了端到端的知识注入深度学习框架(Gated-K-BERT),其利用预训练的 BERT 语言表示模型与领域特定声明性知识源(药物滥用本体 DAO),通过门控融合共享机制联合抽取实体及其关系。我们的模型进一步通过实体位置感知注意力层对句中实体提及予以更多关注,其中本体被用于定位目标实体位置。实验结果表明,相较于 SOTA 关系抽取器,在 BERT 中融入知识感知注意力表示能以更好覆盖度抽取大麻-抑郁关系。
引用
@article{arxiv.2009.10155,
title = {"When they say weed causes depression, but it's your fav antidepressant": Knowledge-aware Attention Framework for Relationship Extraction},
author = {Shweta Yadav and Usha Lokala and Raminta Daniulaityte and Krishnaprasad Thirunarayan and Francois Lamy and Amit Sheth},
journal= {arXiv preprint arXiv:2009.10155},
year = {2021}
}