关于从群不变网络重建训练数据的论述
机器学习
2024-11-26 v1
摘要
从训练好的神经网络重建训练数据的研究正在取得显著进展，对隐私和可解释性具有重要意义。近期进展已证明该过程对几种数据类型可行。然而， 从群不变神经网络重建数据存在distinct 挑战，目前尚未得到充分探索。本文通过首先对问题进行形式化并讨论其基本性质来填补这一空白。我们随后提供了实验评估，表明常规重建技术在此场景下不足。具体而言，我们观察到结果数据重建趋向于群作用下平凡作用的对称输入，从而导致效果不佳。最后，我们提出两种新方法旨在改善此设置下的重建，并呈现有前景的初步实验结果。我们的工作阐明了从群不变神经网络重建数据的复杂性，并为该领域的未来研究提供了潜在 avenue。
引用
@article{arxiv.2411.16458,
title = {On the Reconstruction of Training Data from Group Invariant Networks},
author = {Ran Elbaz and Gilad Yehudai and Meirav Galun and Haggai Maron},
journal= {arXiv preprint arXiv:2411.16458},
year = {2024}
}