探索艺术领域的可解释 AI：生成音乐中潜空间的解释
人工智能
2023-08-11 v1 人机交互
摘要
可解释 AI 有潜力支持更具交互性与流畅性的共同创作 AI 系统，从而与人进行创造性协作。为此，创造性 AI 模型需通过提供可检查、可理解与可修改的可解释 AI（XAI）特性，便于调试。然而，目前面向艺术领域的 XAI 极少。在本工作中，我们展示了如何使用于音乐生成的潜变量模型更具可解释性；具体而言，我们扩展了生成音乐小节的 MeasureVAE。我们通过以下方式提升模型的可解释性：i) 使用潜空间正则化迫使潜空间的某些特定维度映射到有意义的音乐属性，ii) 提供用户界面反馈回路以允许人们调整潜空间维度并实时观察这些变化的结果，iii) 提供潜空间中音乐属性的可视化以帮助人们理解并预测潜空间维度变化的影响。我们建议，通过这种方式，我们以有意义的方式弥合了潜空间与生成音乐结果之间的鸿沟，使模型及其输出更具可解释性与可调试性。
引用
@article{arxiv.2308.05496,
title = {Exploring XAI for the Arts: Explaining Latent Space in Generative Music},
author = {Nick Bryan-Kinns and Berker Banar and Corey Ford and Courtney N. Reed and Yixiao Zhang and Simon Colton and Jack Armitage},
journal= {arXiv preprint arXiv:2308.05496},
year = {2023}
}