CHEER：通过知识注入以富模型助益贫模型
机器学习
2020-05-25 v1 机器学习
摘要
受富数据环境（如重症监护病房）中具多特征通道数据可用的驱动，将深度学习（DL）应用于医疗健康领域的兴趣日益增长。然而，在许多其他实际情境中，我们仅能在贫数据环境（如家庭）中访问特征通道少得多的数据，这常导致预测模型性能不佳。我们如何借助从相关环境中富数据训练的现有模型提取的知识，来提升此类贫数据环境所学模型的性能？为解答该问题，我们开发了名为CHEER的知识注入框架，其可将此类富模型简洁地概括为可迁移表示，这些表示可被整合进贫模型以改进其性能。我们对注入后的模型进行了理论分析，并在多个数据集上做了经验评估。我们的经验结果表明，在多个生理数据集上，CHEER的宏F1分数较基线高出5.60%至46.80%。
引用
@article{arxiv.2005.10918,
title = {CHEER: Rich Model Helps Poor Model via Knowledge Infusion},
author = {Cao Xiao and Trong Nghia Hoang and Shenda Hong and Tengfei Ma and Jimeng Sun},
journal= {arXiv preprint arXiv:2005.10918},
year = {2020}
}
备注
Published in TKDE