用于鲁棒毒性分类的软标签集成
人工智能
2024-11-11 v2 密码学与安全
机器学习
摘要
文本内容中的毒性分类仍然是一个重要问题。单一标注者提供的标签不足以捕捉人类观点的多样性。因此，越来越需要 incorporating 来自众所周知标注的数据来训练有效的毒性分类器。此外，使用经验风险最小化 (ERM) 的标准训练方法可能无法解决由于利用虚假关联而导致的训练集和测试集之间的潜在偏移问题。本文引入了一种新的双层优化框架，将众所周知标注与软标签技术集成，并通过组分布鲁棒优化 (GroupDRO) 优化软标签权重，以增强对离分布 (OOD) 风险的鲁棒性。我们在理论上证明了双层优化算法的收敛性。实验结果表明，我们的方法在平均性能和最差组性能方面均优于现有的基线方法，证明了其在利用众所周知标注实现更有效和更鲁棒的毒性分类方面的有效性。
引用
@article{arxiv.2410.14894,
title = {Soft-Label Integration for Robust Toxicity Classification},
author = {Zelei Cheng and Xian Wu and Jiahao Yu and Shuo Han and Xin-Qiang Cai and Xinyu Xing},
journal= {arXiv preprint arXiv:2410.14894},
year = {2024}
}
备注
38th Conference on Neural Information Processing Systems (NeurIPS 2024)