古文字修复:一种多模态多任务神经网络方法
计算与语言
2024-03-12 v1 计算机视觉与模式识别
计算机与社会
摘要
文化遗产是人类思想和历史的持久记录。尽管在文物保护方面付出了巨大努力,但许多古代文物仍因自然劣化和人为活动而遭受不可逆转的破坏。深度学习技术已成为修复各类文化遗产(包括古文字修复)的宝贵工具。以往的研究往往从视觉或文本单一视角 approached 古文字修复,忽视了协同多模态信息的潜力。本文提出了一种新颖的多模态多任务修复模型(MMRM)用于古文字修复,特别强调象形文字。该模型结合上下文理解与受损古代文物的残存视觉信息,能够同时预测受损字符并生成修复后的图像。我们在模拟数据集和真实古代铭文上对 MMRM 模型进行了测试。结果表明,所提出的方法在模拟实验和现实场景中均能提供富有洞察力的修复建议。据我们所知,这项工作代表了多模态深度学习在古文字修复领域的首次应用,将有助于数字人文领域对古代社会和文化的理解。
引用
@article{arxiv.2403.06682,
title = {Restoring Ancient Ideograph: A Multimodal Multitask Neural Network Approach},
author = {Siyu Duan and Jun Wang and Qi Su},
journal= {arXiv preprint arXiv:2403.06682},
year = {2024}
}
备注
Accept by Lrec-Coling 2024