论 Web 搜索自动建议审核的社会与技术挑战

过往研究表明，用户受益于支持其写作与探索任务的系统。Web 搜索引擎的自动建议功能即是此类系统的一个例子：它在用户输入时提供建议列表，从而帮助用户表述其查询。自动建议通常由基于搜索日志语料和文档表示训练的机器学习（ML）系统生成。此类自动化方法可能易于出现导致有问题的建议的问题，这些建议存在偏见、种族主义、性别歧视或以其他形式不当。尽管当前的搜索引擎在抑制此类问题建议方面已愈发熟练，但仍有持续存在的问题遗留。在本文中，我们反思过往努力以及为何某些问题仍然存在，涵盖用于识别、检测和应对问题自动建议的典型流水线上的已探索解决方案。为展示其复杂性，我们讨论了问题建议的若干维度、流水线上的困难问题，以及我们的讨论为何适用于越来越多超越 Web 搜索、实现类似文本建议功能的应用。通过勾勒审核 Web 搜索建议中持续的社会与技术挑战，我们发出了新的行动呼吁。