用于生产环境部署深度学习模型的响应式并行化架构
机器学习
2023-07-12 v2 人工智能
摘要
招聘人员可通过查看求职者的简历（CV）文档轻松筛选候选人。非结构化文档型 CV 包含候选人的作品集与命名实体列举详情。本研究的主要目标是设计并提出一种面向 Web、高响应度的计算流水线，其利用分层精炼的标签注意力网络系统性预测 CV 实体。专为命名实体识别训练的深度学习模型在大型数据集上训练以预测相关字段。本文提出一种并行使用多个深度学习模型并实时预测的优化策略。我们展示了使用层次分析法（AHP）选择轻量微 Web 框架，并聚焦于一种借助微服务将基于大型深度学习模型的流水线部署至生产就绪环境的有用方法。所部署模型与提出架构在顺序请求流下解析普通 CV 耗时少于 700 毫秒。
引用
@article{arxiv.2112.08933,
title = {Responsive parallelized architecture for deploying deep learning models in production environments},
author = {Nikhil Verma and Krishna Prasad},
journal= {arXiv preprint arXiv:2112.08933},
year = {2023}
}
备注
20 Pages