Panza：面向完全本地化的个性化文本写作助手的设计与分析

强大的开源大型语言模型 (LLM) 的可用性开辟了激动人的应用场景，例如利用个人数据对这些模型进行微调，以模仿用户独特的写作风格。这种助手的两个关键要求是个性化——助手应能清晰地反映用户自己的写作风格——以及隐私——用户可能担心将极其个人的数据（如电子邮件档案）上传到第三方服务。本文提出一种新的设计与评估方法，针对电子邮件生成这一具体用例，命名为 Panza。Panza 的个性化功能基于结合 Reverse Instructions 技术变体与检索增强生成 (RAG) 的微调。我们展示了这种组合允许我们仅用有限数据，对 LLM 进行微调以反映用户的写作风格，同时在极其有限的资源上运行（例如在免费的 Google Colab 实例上）。我们的关键方法贡献在于首次对这种个性化写作任务的评估指标进行详尽研究，以及探讨不同系统组件——RAG 的使用以及不同微调方法——对系统性能的影响。此外，我们展示了极少量数据（不足 100 封电子邮件样本）即可创建足够真实地模仿人类的模型。这一发现揭示了语言模型中的一个先前未知的攻击向量——仅 access 到少量写作样本即可以低成本创建能够模仿目标写作风格的生成模型。我们将完整的 Panza 代码以及三个新发布的电子邮件数据集（用于科研）在 https://github.com/IST-DASLab/PanzaMail 上开放。