PILLAR：一个基于大语言模型的人工智能隐私威胁建模工具
密码学与安全
2025-09-09 v1 多智能体系统
摘要
大型语言模型（LLM）的快速发展开辆了将人工智能应用于广泛领域的新可能性，包括隐私工程。随着现代应用日益处理敏感用户数据，保护隐私的重要性日益凸显。为了有效保护隐私，需要在系统开发早期识别和解决潜在威胁。诸如 LINDDUN 等框架提供了发现这些风险的结构化方法，但尽管价值突出，这些方法往往需要大量的手动工作、专家输入和详细的系统知识。这使得过程耗时且容易出错。当前的隐私威胁建模方法，如 LINDDUN，通常依赖于创建和分析复杂的数据流图（DFDs）和系统描述，以定位潜在隐私问题。虽然这些方法较为 thorough，但操作繁琐，高度依赖用户提供数据的准确性。此外，它们往往会生成一长串威胁，而无法提供明确的优先级指导，使开发人员不知所措。为应对这些挑战，我们引入 PILLAR（Privacy risk Identification with LINDDUN and LLM Analysis Report），一个将 LLM 与 LINDDUN 框架集成以简化和增强隐私威胁建模的新工具。PILLAR 自动化了 LINDDUN 过程的关键部分，如生成 DFD、分类威胁和优先级排序。通过利用 LLM 的能力，PILLAR 可以将系统的自然语言描述转化为全面的威胁模型，用户输入极少，大幅减少开发人员和隐私专家的工作负担，提高了流程的效率和准确性。
引用
@article{arxiv.2410.08755,
title = {PILLAR: an AI-Powered Privacy Threat Modeling Tool},
author = {Majid Mollaeefar and Andrea Bissoli and Silvio Ranise},
journal= {arXiv preprint arXiv:2410.08755},
year = {2025}
}