ADELT:深度学习框架间的转译器
计算与语言
2024-05-09 v3 机器学习
摘要
我们提出了对抗式深度学习转译器(ADELT),一种用于深度学习框架间源到源转译的新方法。ADELT 独特地将代码骨架转译与 API 关键词映射解耦。对于代码骨架转译,它使用大语言模型(LLMs)上的少样本提示;而对于 API 关键词映射,它使用来自代码专用 BERT 的上下文嵌入。这些嵌入在域对抗设置中训练以生成关键词翻译词典。ADELT 在未经标注的网络爬取深度学习语料库上训练,不依赖任何手工规则或平行数据。它优于最先进的转译器,将 PyTorch-Keras 与 PyTorch-MXNet 转译对的 pass@1 率分别提升了 17.4 分与 15.0 分。我们在 https://github.com/gonglinyuan/adelt 提供代码的开源访问。
引用
@article{arxiv.2303.03593,
title = {ADELT: Transpilation Between Deep Learning Frameworks},
author = {Linyuan Gong and Jiayi Wang and Alvin Cheung},
journal= {arXiv preprint arXiv:2303.03593},
year = {2024}
}
备注
19 pages, to be published in the main track of IJCAI 2024