扰动辅助样本合成：一种不确定性量化的新方法
机器学习
2024-02-15 v2 机器学习
摘要
本文介绍了一种新颖的扰动辅助推断（PAI）框架，利用由扰动辅助样本合成（PASS）方法生成的合成数据。该框架聚焦于复杂数据场景中的不确定性量化，特别是涉及非结构化数据并使用深度学习模型的情形。一方面，PASS 采用生成模型创建紧密反映原始数据并通过数据扰动保留其秩属性的合成数据，从而增强数据多样性并加强隐私保护。通过融入来自大型预训练生成模型的知识迁移，PASS 提升了估计精度，借助蒙特卡洛实验给出各种统计量的精细化分布估计。另一方面，PAI 具备统计上保证的有效性。在枢轴推断中，即便不知晓枢轴量的分布，它也能得出精确结论。在非枢轴情形下，我们通过使用独立的保留样本训练来提升合成数据生成的可靠性。我们将 PAI 应用于图像合成、情感词分析、多模态推断和预测区间构建等不同领域，展示了其在推进复杂数据驱动任务中不确定性量化的有效性。
引用
@article{arxiv.2305.18671,
title = {Perturbation-Assisted Sample Synthesis: A Novel Approach for Uncertainty Quantification},
author = {Yifei Liu and Rex Shen and Xiaotong Shen},
journal= {arXiv preprint arXiv:2305.18671},
year = {2024}
}