你的空间就是我的区域：揭秘预训练模型中心上 AI 驱动应用的安全风险

托管在 Hugging Face 等平台上的 AI 驱动应用正通过在线推理和微调服务普及对预训练模型的访问。虽然这些平台降低了 AI 采用门槛，但它们引入了一个未被探索的攻击面，因为 AI-Apps 通常由不受信任的各方开发，且隔离性弱、安全设置错误。在本文中，我们对三大领先平台上的 AI-Apps 进行了首次系统性安全分析。为了构建我们的调查，我们将 AI-App 生命周期映射到既定的风险分类法（如 OWASP），识别出从通用 Web 缺陷到高影响架构问题的五大威胁类别和十个攻击向量。我们的分析揭示了包括访问控制失效、不安全资源重用、输入验证不足和敏感数据暴露在内的严重故障。值得注意的是，我们发现了三种平台设计固有的新型架构漏洞，并展示了传统问题（例如，全局可读日志）如何在此生态系统中被独特放大。为了评估现实世界的影响，我们开发了分析框架 Insightor 并将其应用于超过 970,000 个公开的 AI-Apps。令人担忧的是，我们发现数千个应用泄露凭证，数百个包含允许任意代码执行的输入注入漏洞，数十个暗藏后门——表明存在主动利用。我们已将所有发现负责任地披露给受影响的平台和开发者。