"我总觉得有什么不对劲。"：理解高技能合规知识工作者使用大语言模型时的合规风险与缓解策略
人机交互
2025-07-28 v3
摘要
大语言模型（LLM）的快速发展改变了知识密集型领域，并导致知识工作者广泛使用它们来提高生产力。由于这些专业人员处理敏感信息，且基于文本的生成式 AI 模型的训练涉及大量数据的使用，因此存在对隐私、安全以及更广泛遵守法规和法律的担忧。虽然现有研究已解决了隐私和安全问题，但高技能知识工作者在使用 LLM 时面临的特定合规风险及其缓解策略仍未被充分探索。由于理解这些风险和策略对于开发行业特定的合规 LLM 机制至关重要，本研究对来自知识密集型行业的 24 名知识工作者进行了半结构化访谈，以了解他们在将 LLM 集成到工作流程中的实践和经历。我们的研究探讨了这些工作者如何确保合规，以及他们在最小化风险时遇到的资源和挑战。我们的初步发现表明，知识工作者担心敏感信息泄露，并采取了主动措施，如扭曲输入数据和限制提示词细节来缓解此类风险。然而，他们识别和缓解风险的能力因缺乏 LLM 专用合规指导和培训而受到严重阻碍。我们的发现强调了提高知识工作者合规意识以及在组织内建立支持系统和合规文化的重要性。
引用
@article{arxiv.2411.04576,
title = {"I Always Felt that SomethingWasWrong.": Understanding Compliance Risks and Mitigation Strategies when Highly-Skilled Compliance Knowledge Workers Use Large Language Models},
author = {Siying Hu and Piaohong Wang and Ka I Chan and Yaxing Yao and Zhicong Lu},
journal= {arXiv preprint arXiv:2411.04576},
year = {2025}
}