中文

为自动标注而生:借助新目标函数更快且更优

计算与语言 2023-11-01 v2

摘要

关键词抽取是文本挖掘的一项任务,被应用于提升 SEO 与广告中的搜索量。应用于自动标注时,它能对海量在线文章与照片进行高效且准确的标注。BAT 是为自动标注而发明的,它作为 awoo 的 AI 营销平台(AMP)提供服务。awoo AMP 不仅提供定制化推荐系统服务,还提升了电商中的转化率。BAT 的优势在于比其它 SOTA 模型收敛得更快且更好,其 4 层结构在 50 个 epoch 时取得了最佳的 F 值。换言之,它优于那些需要更深层次结构在 100 个 epoch 时才达到的其它模型。为生成丰富且干净的标签,awoo 创建了新的目标函数,在保持与交叉熵相近的 F1{\rm F_1} 值的同时提升 F2{\rm F_2} 值。为确保 F 值更优的性能,awoo 改进了 Transformer \cite{Transformer} 提出的学习率策略,以同时提高 F1{\rm F_1}F2{\rm F_2} 值。

关键词

引用

@article{arxiv.2206.07264,
  title  = {Born for Auto-Tagging: Faster and better with new objective functions},
  author = {Chiung-ju Liu and Huang-Ting Shieh},
  journal= {arXiv preprint arXiv:2206.07264},
  year   = {2023}
}