重塑行政负担的AI信任：理解LLM辅助福利系统中的信任-负担动态
人机交互
2025-05-29 v1
摘要
补充营养援助计划（SNAP）是美国政府向4100万联邦认定的低收入申请人提供的一项重要福利支持系统。通过对具有各种SNAP系统经历的此类申请人进行访谈，我们的研究结果表明，像LLM这样的新AI技术可以减轻传统负担，但也会引入新的负担。我们引入了新的学习、合规和心理成本类型，这些成本改变了申请人的行政负担。我们还识别了对AI的信任在能力、诚信和仁慈三个维度上如何被感知为减轻了行政负担，这可能源于对系统无意且不当的过度信任。我们讨论了在基于LLM的行政系统中校准适当的用户信任水平，以减轻新引入的负担。特别是，我们的研究结果表明，福利行政中需要基于证据的信息披露，并为AI辅助行政系统中的信任-负担动态提出了未来研究方向。
引用
@article{arxiv.2505.22418,
title = {AI Trust Reshaping Administrative Burdens: Understanding Trust-Burden Dynamics in LLM-Assisted Benefits Systems},
author = {Jeongwon Jo and He Zhang and Jie Cai and Nitesh Goyal},
journal= {arXiv preprint arXiv:2505.22418},
year = {2025}
}
备注
FAccT 2025