生成式AI搜索中敏感用户查询的分类与分析
信息检索
2025-04-18 v3 人工智能
计算与语言
计算机与社会
机器学习
摘要
尽管业界对将生成式大语言模型集成到其服务中的兴趣日益增长，但经验有限和资源稀缺成为启动和运营大规模基于LLM的服务的障碍。在本文中，我们分享了在国家级搜索引擎中开发和运营生成式AI模型的经验，特别关注用户查询的敏感性。我们提出了一个敏感搜索查询的分类法，概述了我们的方法，并呈现了一份关于实际用户敏感查询的全面分析报告。我们相信，我们在推出生成式AI搜索系统方面的经验有助于降低构建基于生成式LLM的服务的门槛。
引用
@article{arxiv.2404.08672,
title = {Taxonomy and Analysis of Sensitive User Queries in Generative AI Search},
author = {Hwiyeol Jo and Taiwoo Park and Hyunwoo Lee and Nayoung Choi and Changbong Kim and Ohjoon Kwon and Donghyeon Jeon and Eui-Hyeon Lee and Kyoungho Shin and Sun Suk Lim and Kyungmi Kim and Jihye Lee and Sun Kim},
journal= {arXiv preprint arXiv:2404.08672},
year = {2025}
}
备注
NAACL2025(Findings), corrected typo in co-corresponding authors