使用 LLM 提供有效公共服务的承诺与风险
人机交互
2026-01-22 v1 计算机与社会
摘要
政府是基本公共服务的主要提供者，有责任有效地提供服务。在儿童福利 (CW) 等高风险决策领域，机构必须保护儿童，同时避免不必要地延长家庭与系统的接触。随着对 AI 的乐观情绪日益高涨，政府正在推动其整合，但对可行性和危害的担忧仍然存在。通过与加拿大一家大型 CW 机构的合作，我们研究了 LocalLLM 和 BERTopic 模型如何跟踪 CW 案件进展。我们展示了这些工具如何通过发出案件进展/偏差信号，潜在地协助工作人员 opportunistic 地解决其工作中的差距。然而，我们也展示了它们如何无法检测到需要基于社会工作培训的自由裁量判断的案件轨迹，而这些正是从业者实际上希望获得支持以预先解决实质性案件关切的领域。我们还提供了未来参与式方向的路线图，以为公共部门或与公共部门共同设计语言工具。
引用
@article{arxiv.2601.15163,
title = {The Promises and Perils of using LLMs for Effective Public Services},
author = {Erina Seh-Young Moon and Matthew Tamura and Angelina Zhai and Nuzaira Habib and Behnaz Shirazi and Altaf Kassam and Devansh Saxena and Shion Guha},
journal= {arXiv preprint arXiv:2601.15163},
year = {2026}
}