IncogniText：基于 LLM 的条件文本隐私增强化技术
密码学与安全
2025-02-04 v2 人工智能
计算与语言
机器学习
摘要
本文聚焦于文本匿名化问题，即防止对手正确推断作者的私有属性，同时保持文本实用性，即语义和意义。我们提出了 IncogniText 技术，通过随机化私有属性来误导潜在的对手预测错误的私有属性值。我们的实证评估显示，在 8 个不同的私有属性上，私有属性泄露率降低了 90%以上。最后，我们通过将 IncogniText 的匿名化能力提炼为一组与现场模型关联的 LoRA 参数，展示了其为实际应用成熟的潜力。我们的结果表明，在实用性受限影响下，仍可将隐私泄露率降低至原来的一半以上。
引用
@article{arxiv.2407.02956,
title = {IncogniText: Privacy-enhancing Conditional Text Anonymization via LLM-based Private Attribute Randomization},
author = {Ahmed Frikha and Nassim Walha and Krishna Kanth Nakka and Ricardo Mendes and Xue Jiang and Xuebing Zhou},
journal= {arXiv preprint arXiv:2407.02956},
year = {2025}
}
备注
Accepted at NeurIPS 2024 - Safe GenAI Workshop