面向人人的敏捷文本分类器

基于文本的安全分类器被广泛用于内容审核，并越来越多地用于调整生成式语言模型行为——这是数字助理和聊天机器人安全性日益关注的话题。然而，不同策略需要不同的分类器，且安全策略本身通过迭代与适配而改进。本文引入并评估了敏捷文本分类的方法，即使用可针对特定策略快速开发的小型定向数据集来训练分类器。对来自三个安全相关领域的 7 个数据集（包含 15 种标注方案）进行实验，得出了我们的关键发现：使用少至 80 个标注样本的数据集对如 PaLM 62B 这样的大型语言模型进行提示微调（prompt-tuning），即可达到最先进性能。我们认为这使得文本分类范式发生转变，尤其对于支持更安全的在线话语的模型。分类器不必花费数月或数年收集数百万样本以试图创建通用安全分类器，而是可以使用由个人或小型组织创建、针对特定用例定制、并在一天之内迭代适配的小型数据集进行微调。