为自动标注而生:借助新目标函数更快且更优
计算与语言
2023-11-01 v2
摘要
关键词抽取是文本挖掘的一项任务,被应用于提升 SEO 与广告中的搜索量。应用于自动标注时,它能对海量在线文章与照片进行高效且准确的标注。BAT 是为自动标注而发明的,它作为 awoo 的 AI 营销平台(AMP)提供服务。awoo AMP 不仅提供定制化推荐系统服务,还提升了电商中的转化率。BAT 的优势在于比其它 SOTA 模型收敛得更快且更好,其 4 层结构在 50 个 epoch 时取得了最佳的 F 值。换言之,它优于那些需要更深层次结构在 100 个 epoch 时才达到的其它模型。为生成丰富且干净的标签,awoo 创建了新的目标函数,在保持与交叉熵相近的 值的同时提升 值。为确保 F 值更优的性能,awoo 改进了 Transformer \cite{Transformer} 提出的学习率策略,以同时提高 与 值。
引用
@article{arxiv.2206.07264,
title = {Born for Auto-Tagging: Faster and better with new objective functions},
author = {Chiung-ju Liu and Huang-Ting Shieh},
journal= {arXiv preprint arXiv:2206.07264},
year = {2023}
}