GoldCoin：将大型语言模型在隐私法律中的 grounding 通过情境完整性理论

隐私问题在信息在实体之间不当传输时尤为突出。现有研究主要通过探索各种隐私攻击、防御和评估方法来研究隐私，但这些方法局限于预先设定的狭窄模式，忽视了隐私并非孤立、无情境的概念，传统上仅限于敏感数据（如社会安全号码），而是与复杂的社会情境交织在一起，使得识别和分析潜在隐私违规行为变得复杂。大型语言模型（LLM）的出现为将隐私法律中所涉及的细致情景纳入解决这些复杂隐私问题的框架提供了前所未有的机会。然而，现有开源相关案例研究的稀缺性限制了LLM在与具体法律条文对齐方面的效率。为此，我们引入了一种新框架——GoldCoin，旨在高效地将LLM在隐私法律中进行 grounding，以便进行司法评估隐私违规。我们的框架利用情境完整性理论作为桥梁，创建大量基于相关隐私条文（如HIPAA）的合成情景，以帮助LLM理解在现实世界中识别隐私风险的复杂情境。大量实验结果表明，GoldCoin显著提升了LLM在识别不同司法任务中的隐私风险能力，超越了基线方法。