可验证 dropout：将随机性转化为可验证的论点
计算机视觉与模式识别
2025-12-30 v1
摘要
现代基于云的AI训练依赖大量遥测数据和日志记录以确保问责。虽然这些审计轨迹使后续检查成为可能，但在面对深度学习内在的非确定性时却力不从众。随机操作（如 dropout）构成一个模糊区域，攻击者可将恶意操纵掩饰为自然随机波动，从而获得合理的拒绝服务。因此，现有的日志机制无法在不暴露敏感训练数据的情况下验证随机值是否被真实生成和应用。为关闭此完整性差距，我们引入可验证 dropout（Verifiable Dropout），一种基于零知识证明的隐私保护机制。我们将随机性视为一个可验证的论点。我们的方案将 dropout 掩码绑定到确定性且可加密验证的种子，并证明 dropout 操作的正确执行。该设计使用户能够事后审计随机训练步骤的完整性，确保随机性既未被偏置也未被挑选，同时严格保护模型和数据的机密性。
引用
@article{arxiv.2512.22525,
title = {DreamOmni3: Scribble-based Editing and Generation},
author = {Bin Xia and Bohao Peng and Jiyang Liu and Sitong Wu and Jingyao Li and Junjia Huang and Xu Zhao and Yitong Wang and Ruihang Chu and Bei Yu and Jiaya Jia},
journal= {arXiv preprint arXiv:2512.22525},
year = {2025}
}