Fuzzy PyTorch：深度学习模型快速数值可变性评估框架
机器学习
2026-05-26 v1 数值分析
数值分析
摘要
我们引入 Fuzzy PyTorch，一个用于快速评估深度学习（DL）模型数值可变性的框架。随着 DL 应用于越来越多的任务，理解浮点算术的可变性至关确保稳健可靠的性能。评估此类可变性的工具必须具有可扩展性、高效性，并能无缝集成到现有框架中，同时最小化代码修改。Fuzzy PyTorch 通过集成概率性舍入模式与指令集管理，实现对 PyTorch 的扩展，这是一种新颖的库，接口于 Verificarlo，这是一个数值分析编译器。该库提供随机舍入模式和一种新模式；up-down 舍入。比较评估显示，Fuzzy PyTorch 在保持模型性能的同时，相对于 Verrou（一种最先进的工具）实现运行时降低 5 倍至 60 倍。我们进一步通过运行 1 到 3410 万参数的模型，展示了其可扩展性，确认其适用于小型和大型 DL 架构。总体而言，Fuzzy PyTorch 提供了一个高效、可扩展且实用的解决方案，用于评估深度学习中的数值可变性，使研究人员和实践者能够在不损害性能或计算效率的情况下，对浮点不确定性进行量化和管理。
引用
@article{arxiv.2605.25991,
title = {Fuzzy PyTorch: Rapid Numerical Variability Evaluation for Deep Learning Models},
author = {Inés Gonzalez-Pepe and Hiba Akhaddar and Tristan Glatard and Yohan Chatelain},
journal= {arXiv preprint arXiv:2605.25991},
year = {2026}
}
备注
19 pages, 8 figures, Published in Transactions on Machine Learning Research (01/2026)